周鴻祎：人工智能最后的底線必須是人

7月27日消息，今日，2022年新智者大會(huì)正式啟幕，360集團(tuán)創(chuàng)始人周鴻祎在其官方微博發(fā)文感謝組委會(huì)邀請(qǐng)，并表達(dá)自己對(duì)AI武器的看法。

周鴻祎稱，當(dāng)年阿西·莫夫在講“機(jī)器人三原則”的時(shí)，有一個(gè)重要的原則，就是機(jī)器人不能傷害人。他表示，這一原則如今已被打破，實(shí)際上各種無(wú)人戰(zhàn)車、無(wú)人飛機(jī)，已經(jīng)應(yīng)用在戰(zhàn)場(chǎng)上。

周鴻祎表示，在今年的俄烏沖突中，烏克蘭軍隊(duì)使用美國(guó)的彈簧刀無(wú)人機(jī)，此無(wú)人機(jī)具備監(jiān)視、偵察和打擊功能，在AI的加持下，單兵就能熟練掌握。雖然彈簧刀無(wú)人機(jī)可能還是在被遙控，最后打擊的瞬間可能還是由人來(lái)下指令。他表示，從人下指令，到AI自動(dòng)識(shí)別、自動(dòng)判斷、自主發(fā)起攻擊，就是一層薄薄的窗戶紙，尤其在AI與武器結(jié)合方面，世界各國(guó)都在展開軍備競(jìng)賽，這也將是未來(lái)大國(guó)角力的焦點(diǎn)。“把AI武器最后的決定權(quán)交給人類，讓人來(lái)做最后的控制至關(guān)重要，人工智能最后的底線必須是人。”周鴻祎稱。

現(xiàn)實(shí)中，人工智能安全在社會(huì)倫理面前，還會(huì)面臨超出現(xiàn)有社會(huì)法律和道德規(guī)范的風(fēng)險(xiǎn)難題。比如說(shuō)，經(jīng)典的電車選擇難題，以及我們?cè)撊绾握J(rèn)定無(wú)人駕駛車出事以后的責(zé)任。

公路上自動(dòng)駕駛的汽車，如果它選擇避讓行人，就可能會(huì)撞上旁邊障礙物，導(dǎo)致車主人身傷亡；如果它不避讓，就會(huì)導(dǎo)致行人傷亡。這種情況下，AI程序該如何來(lái)做出判斷。此外還需要考慮一個(gè)問(wèn)題，如果出了車禍，這個(gè)責(zé)任到底該誰(shuí)來(lái)負(fù)？應(yīng)該算是AI的？算是車廠的？還是算駕駛員的？這些AI安全難題，目前都還沒(méi)有一個(gè)明確的答案。

運(yùn)行AI需要算力，算力需要大數(shù)據(jù)等基礎(chǔ)設(shè)施。但如果數(shù)據(jù)中心，云服務(wù)都被終止，那么各種無(wú)人機(jī)，自動(dòng)駕駛坦克等就失去了重要的大腦。俄烏沖突中就上演了這一幕。

西方國(guó)家對(duì)俄羅斯采取了“六斷”（斷網(wǎng)、斷供、斷服務(wù)、斷證書、斷域名、斷輿論），包括說(shuō)微軟、IBM和甲骨文這些公司對(duì)俄停止SSL證書，停止域名解析，停止互聯(lián)網(wǎng)接口，中斷國(guó)際傳輸網(wǎng)絡(luò)，停止了各種軟件跟服務(wù)，芯片和硬件供應(yīng)商，比如英特爾對(duì)俄斷供，甚至包括臉書、推特等就徹底把俄羅斯的很多帳號(hào)給禁掉，徹底將俄孤立，甚至試圖把俄羅斯在數(shù)字化的世界里徹底抹去。而俄羅斯由于缺乏市場(chǎng)化的數(shù)字產(chǎn)業(yè)支撐，算力、產(chǎn)品和服務(wù)的基礎(chǔ)被掣肘，完全處于被動(dòng)挨打的境況。這充分說(shuō)明數(shù)字安全能力落后也會(huì)挨打。

人工智能安全問(wèn)題也是其發(fā)展中面臨的重要挑戰(zhàn)，其中AI算法可能被欺騙、被誤導(dǎo)。谷歌曾經(jīng)有一個(gè)AI算法，把黑人識(shí)別成“猩猩”，惹出很大風(fēng)波?，F(xiàn)在一些人工智能漏洞挖掘團(tuán)隊(duì)還發(fā)現(xiàn)：當(dāng)人走在街上，面對(duì)滿大街能夠進(jìn)行人臉識(shí)別的人工智能攝像頭，只要穿上特殊條紋或者特殊圖案的T恤，攝像頭就會(huì)認(rèn)為你不是一個(gè)人，也不會(huì)對(duì)你做面部識(shí)別，從而令你實(shí)現(xiàn)科幻小說(shuō)所提的“隱身”效果。

360是一直高度重視人工智能安全的，并構(gòu)建起人工智能安全能力體系。其中，360對(duì)自身積累的全球最大的安全大數(shù)據(jù)進(jìn)行AI分析，形成了360云端安全大腦原型，為行業(yè)或企業(yè)提供強(qiáng)大的數(shù)據(jù)和情報(bào)支撐，對(duì)網(wǎng)絡(luò)威脅進(jìn)行有效分析、溯源；同時(shí)積極承擔(dān)“安全大腦國(guó)家新一代人工智能開放創(chuàng)新平臺(tái)”的建設(shè)；此外還牽頭研發(fā)的“人工智能安全測(cè)評(píng)與風(fēng)險(xiǎn)監(jiān)測(cè)預(yù)警平臺(tái)”入選工信部“人工智能產(chǎn)業(yè)創(chuàng)新任務(wù)揭榜單位”名單。盡管如此，面對(duì)諸多的人工智能安全問(wèn)題，僅靠一家企業(yè)不能解決所有威脅，所以注重生態(tài)合作很重要。我們?cè)敢忾_放自身安全大數(shù)據(jù)，將產(chǎn)學(xué)研力量聯(lián)合起來(lái)，共建AI安全生態(tài)，集中推動(dòng)數(shù)字安全的創(chuàng)新。