阿里安全風險治理領域AI技術獲CCKS 2021比賽第一名

12月27日消息，近日，中國中文信息學會語言與知識計算專業(yè)委員會主辦的第十五屆全國知識圖譜與語義計算大會（CCKS 2021）在廣州舉行。大會的主題是"知識圖譜賦能新基建”，旨在探討大數(shù)據(jù)環(huán)境下語言理解、知識獲取、知識融合、知識推理等方面的關鍵技術以及在新基建大背景下的各種智能應用。

此前，中國中文信息學會語言與知識計算專業(yè)委員會主辦了“CCKS 2021通用百科知識圖譜實體類型推斷”比賽，邀請國內283支隊伍參賽。12月25日，比賽結果出爐，阿里安全升級包含封建迷信、軟色情、野生動植物保護、血腥暴力等重難點風險治理領域在內的AI技術獲得第一名。

（圖源天下網(wǎng)商）

阿里安全高級風控專家杜衡介紹，阿里安全在平臺部署了上述新升級的新一代安全架構核心AI能力，讓AI對風險商品進行“聯(lián)想”，以此對抗突發(fā)新增、變異的風險商品。此前阿里風控平臺對多類風險商品出臺了明確的管理規(guī)則，進行了禁售規(guī)范，今年綠網(wǎng)計劃則針對相關風險詞，上線了科普宣導。

雖然該AI技術在競賽的公開數(shù)據(jù)集上獲得了突出的成果，但據(jù)阿里安全反饋，技術應用在真實環(huán)境中遇到了更多難題。

阿里安全算法工程師科藍解釋，第一個難點是商家發(fā)現(xiàn)相關風險詞被平臺管控后，立馬試圖用新詞代替，為了讓AI的能力跟上變異的節(jié)奏，甚至提前布防，AI會基于風險防控經(jīng)驗以及公共新聞事件等，自動挖掘一些新詞，并對這些詞進行擴充解釋，讓AI系統(tǒng)理解這些詞的真正含義和匹配的風險場景，最后候選風險詞還要經(jīng)過運營的人工校驗。

科藍表示，目前依靠AI自動搜尋生產的非正常風險詞匯，最終被人工運營審核后的采納率為60%，逐步降低了人工尋找新風險詞的成本，同時盡量提升覆蓋更多風險區(qū)域的效率。

第二個難點是，除了風險詞變異速度快，平臺發(fā)現(xiàn)有些商家會以正常商品介紹的“外套”引導消費者到其他社交工具上進行溝通和成交。

“這種情況比較難以通過某種技術防控，一方面我們通過各種渠道向商家進行合規(guī)知識的宣導，一方面也希望互聯(lián)網(wǎng)平臺聯(lián)合起來，針對此類風險共同探索合作治理機制?！倍藕庹f。

據(jù)了解，該AI目前升級覆蓋到17個風險場景，阿里安全在加大技術治理風險場景的投入，比如建立人工智能治理與可持續(xù)發(fā)展的新型實驗室，與頂尖高校聯(lián)合發(fā)起“安全AI挑戰(zhàn)者計劃”等項目，培養(yǎng)實戰(zhàn)型AI人才。

阿里安全資深算法專家薛暉表示，AI技術不是萬能的，平臺遇到各種風險變異與挑戰(zhàn)也正說明，治理多類風險場景將是持續(xù)的博弈，但使用技術進行風險治理是其中一個發(fā)展方向，阿里還在繼續(xù)提升AI聯(lián)想的準確率，希望依靠科技創(chuàng)新構建更清朗的平臺環(huán)境，探索如何更好地解決大眾遇到的網(wǎng)絡安全風險問題。