阿里安全風(fēng)險(xiǎn)治理領(lǐng)域AI技術(shù)獲CCKS 2021比賽第一名

12月27日消息，近日，中國(guó)中文信息學(xué)會(huì)語(yǔ)言與知識(shí)計(jì)算專業(yè)委員會(huì)主辦的第十五屆全國(guó)知識(shí)圖譜與語(yǔ)義計(jì)算大會(huì)（CCKS 2021）在廣州舉行。大會(huì)的主題是"知識(shí)圖譜賦能新基建”，旨在探討大數(shù)據(jù)環(huán)境下語(yǔ)言理解、知識(shí)獲取、知識(shí)融合、知識(shí)推理等方面的關(guān)鍵技術(shù)以及在新基建大背景下的各種智能應(yīng)用。

此前，中國(guó)中文信息學(xué)會(huì)語(yǔ)言與知識(shí)計(jì)算專業(yè)委員會(huì)主辦了“CCKS 2021通用百科知識(shí)圖譜實(shí)體類型推斷”比賽，邀請(qǐng)國(guó)內(nèi)283支隊(duì)伍參賽。12月25日，比賽結(jié)果出爐，阿里安全升級(jí)包含封建迷信、軟色情、野生動(dòng)植物保護(hù)、血腥暴力等重難點(diǎn)風(fēng)險(xiǎn)治理領(lǐng)域在內(nèi)的AI技術(shù)獲得第一名。

（圖源天下網(wǎng)商）

阿里安全高級(jí)風(fēng)控專家杜衡介紹，阿里安全在平臺(tái)部署了上述新升級(jí)的新一代安全架構(gòu)核心AI能力，讓AI對(duì)風(fēng)險(xiǎn)商品進(jìn)行“聯(lián)想”，以此對(duì)抗突發(fā)新增、變異的風(fēng)險(xiǎn)商品。此前阿里風(fēng)控平臺(tái)對(duì)多類風(fēng)險(xiǎn)商品出臺(tái)了明確的管理規(guī)則，進(jìn)行了禁售規(guī)范，今年綠網(wǎng)計(jì)劃則針對(duì)相關(guān)風(fēng)險(xiǎn)詞，上線了科普宣導(dǎo)。

雖然該AI技術(shù)在競(jìng)賽的公開數(shù)據(jù)集上獲得了突出的成果，但據(jù)阿里安全反饋，技術(shù)應(yīng)用在真實(shí)環(huán)境中遇到了更多難題。

阿里安全算法工程師科藍(lán)解釋，第一個(gè)難點(diǎn)是商家發(fā)現(xiàn)相關(guān)風(fēng)險(xiǎn)詞被平臺(tái)管控后，立馬試圖用新詞代替，為了讓AI的能力跟上變異的節(jié)奏，甚至提前布防，AI會(huì)基于風(fēng)險(xiǎn)防控經(jīng)驗(yàn)以及公共新聞事件等，自動(dòng)挖掘一些新詞，并對(duì)這些詞進(jìn)行擴(kuò)充解釋，讓AI系統(tǒng)理解這些詞的真正含義和匹配的風(fēng)險(xiǎn)場(chǎng)景，最后候選風(fēng)險(xiǎn)詞還要經(jīng)過運(yùn)營(yíng)的人工校驗(yàn)。

科藍(lán)表示，目前依靠AI自動(dòng)搜尋生產(chǎn)的非正常風(fēng)險(xiǎn)詞匯，最終被人工運(yùn)營(yíng)審核后的采納率為60%，逐步降低了人工尋找新風(fēng)險(xiǎn)詞的成本，同時(shí)盡量提升覆蓋更多風(fēng)險(xiǎn)區(qū)域的效率。

第二個(gè)難點(diǎn)是，除了風(fēng)險(xiǎn)詞變異速度快，平臺(tái)發(fā)現(xiàn)有些商家會(huì)以正常商品介紹的“外套”引導(dǎo)消費(fèi)者到其他社交工具上進(jìn)行溝通和成交。

“這種情況比較難以通過某種技術(shù)防控，一方面我們通過各種渠道向商家進(jìn)行合規(guī)知識(shí)的宣導(dǎo)，一方面也希望互聯(lián)網(wǎng)平臺(tái)聯(lián)合起來，針對(duì)此類風(fēng)險(xiǎn)共同探索合作治理機(jī)制。”杜衡說。

據(jù)了解，該AI目前升級(jí)覆蓋到17個(gè)風(fēng)險(xiǎn)場(chǎng)景，阿里安全在加大技術(shù)治理風(fēng)險(xiǎn)場(chǎng)景的投入，比如建立人工智能治理與可持續(xù)發(fā)展的新型實(shí)驗(yàn)室，與頂尖高校聯(lián)合發(fā)起“安全AI挑戰(zhàn)者計(jì)劃”等項(xiàng)目，培養(yǎng)實(shí)戰(zhàn)型AI人才。

阿里安全資深算法專家薛暉表示，AI技術(shù)不是萬能的，平臺(tái)遇到各種風(fēng)險(xiǎn)變異與挑戰(zhàn)也正說明，治理多類風(fēng)險(xiǎn)場(chǎng)景將是持續(xù)的博弈，但使用技術(shù)進(jìn)行風(fēng)險(xiǎn)治理是其中一個(gè)發(fā)展方向，阿里還在繼續(xù)提升AI聯(lián)想的準(zhǔn)確率，希望依靠科技創(chuàng)新構(gòu)建更清朗的平臺(tái)環(huán)境，探索如何更好地解決大眾遇到的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)問題。