周鴻祎：人工智能最后的底線必須是人

7月27日消息，今日，2022年新智者大會正式啟幕，360集團(tuán)創(chuàng)始人周鴻祎在其官方微博發(fā)文感謝組委會邀請，并表達(dá)自己對AI武器的看法。

周鴻祎稱，當(dāng)年阿西·莫夫在講“機(jī)器人三原則”的時(shí)，有一個(gè)重要的原則，就是機(jī)器人不能傷害人。他表示，這一原則如今已被打破，實(shí)際上各種無人戰(zhàn)車、無人飛機(jī)，已經(jīng)應(yīng)用在戰(zhàn)場上。

周鴻祎表示，在今年的俄烏沖突中，烏克蘭軍隊(duì)使用美國的彈簧刀無人機(jī)，此無人機(jī)具備監(jiān)視、偵察和打擊功能，在AI的加持下，單兵就能熟練掌握。雖然彈簧刀無人機(jī)可能還是在被遙控，最后打擊的瞬間可能還是由人來下指令。他表示，從人下指令，到AI自動識別、自動判斷、自主發(fā)起攻擊，就是一層薄薄的窗戶紙，尤其在AI與武器結(jié)合方面，世界各國都在展開軍備競賽，這也將是未來大國角力的焦點(diǎn)?！鞍袮I武器最后的決定權(quán)交給人類，讓人來做最后的控制至關(guān)重要，人工智能最后的底線必須是人?！敝茗櫟t稱。

現(xiàn)實(shí)中，人工智能安全在社會倫理面前，還會面臨超出現(xiàn)有社會法律和道德規(guī)范的風(fēng)險(xiǎn)難題。比如說，經(jīng)典的電車選擇難題，以及我們該如何認(rèn)定無人駕駛車出事以后的責(zé)任。

公路上自動駕駛的汽車，如果它選擇避讓行人，就可能會撞上旁邊障礙物，導(dǎo)致車主人身傷亡；如果它不避讓，就會導(dǎo)致行人傷亡。這種情況下，AI程序該如何來做出判斷。此外還需要考慮一個(gè)問題，如果出了車禍，這個(gè)責(zé)任到底該誰來負(fù)？應(yīng)該算是AI的？算是車廠的？還是算駕駛員的？這些AI安全難題，目前都還沒有一個(gè)明確的答案。

運(yùn)行AI需要算力，算力需要大數(shù)據(jù)等基礎(chǔ)設(shè)施。但如果數(shù)據(jù)中心，云服務(wù)都被終止，那么各種無人機(jī)，自動駕駛坦克等就失去了重要的大腦。俄烏沖突中就上演了這一幕。

西方國家對俄羅斯采取了“六斷”（斷網(wǎng)、斷供、斷服務(wù)、斷證書、斷域名、斷輿論），包括說微軟、IBM和甲骨文這些公司對俄停止SSL證書，停止域名解析，停止互聯(lián)網(wǎng)接口，中斷國際傳輸網(wǎng)絡(luò)，停止了各種軟件跟服務(wù)，芯片和硬件供應(yīng)商，比如英特爾對俄斷供，甚至包括臉書、推特等就徹底把俄羅斯的很多帳號給禁掉，徹底將俄孤立，甚至試圖把俄羅斯在數(shù)字化的世界里徹底抹去。而俄羅斯由于缺乏市場化的數(shù)字產(chǎn)業(yè)支撐，算力、產(chǎn)品和服務(wù)的基礎(chǔ)被掣肘，完全處于被動挨打的境況。這充分說明數(shù)字安全能力落后也會挨打。

人工智能安全問題也是其發(fā)展中面臨的重要挑戰(zhàn)，其中AI算法可能被欺騙、被誤導(dǎo)。谷歌曾經(jīng)有一個(gè)AI算法，把黑人識別成“猩猩”，惹出很大風(fēng)波?，F(xiàn)在一些人工智能漏洞挖掘團(tuán)隊(duì)還發(fā)現(xiàn)：當(dāng)人走在街上，面對滿大街能夠進(jìn)行人臉識別的人工智能攝像頭，只要穿上特殊條紋或者特殊圖案的T恤，攝像頭就會認(rèn)為你不是一個(gè)人，也不會對你做面部識別，從而令你實(shí)現(xiàn)科幻小說所提的“隱身”效果。

360是一直高度重視人工智能安全的，并構(gòu)建起人工智能安全能力體系。其中，360對自身積累的全球最大的安全大數(shù)據(jù)進(jìn)行AI分析，形成了360云端安全大腦原型，為行業(yè)或企業(yè)提供強(qiáng)大的數(shù)據(jù)和情報(bào)支撐，對網(wǎng)絡(luò)威脅進(jìn)行有效分析、溯源；同時(shí)積極承擔(dān)“安全大腦國家新一代人工智能開放創(chuàng)新平臺”的建設(shè)；此外還牽頭研發(fā)的“人工智能安全測評與風(fēng)險(xiǎn)監(jiān)測預(yù)警平臺”入選工信部“人工智能產(chǎn)業(yè)創(chuàng)新任務(wù)揭榜單位”名單。盡管如此，面對諸多的人工智能安全問題，僅靠一家企業(yè)不能解決所有威脅，所以注重生態(tài)合作很重要。我們愿意開放自身安全大數(shù)據(jù)，將產(chǎn)學(xué)研力量聯(lián)合起來，共建AI安全生態(tài)，集中推動數(shù)字安全的創(chuàng)新。