阿里安全發(fā)現(xiàn)“打碼圖片”可攻擊AI視覺系統(tǒng)

8月20日消息，近日，阿里安全在研究AI視覺穩(wěn)定性的過程中發(fā)現(xiàn)AI視覺有一個(gè)盲區(qū)。該盲點(diǎn)會利用算法自動鑒別圖片關(guān)鍵信息，并巧妙刪除，就像給圖片“打碼”一樣，AI視覺系統(tǒng)就會無法識別該圖片。最近，這項(xiàng)研究成果被AI頂會ICCV 2021收錄。

此前，浙江大學(xué)與阿里安全AI細(xì)粒度圖像識別技術(shù)取得了新進(jìn)展，在公開數(shù)據(jù)集CUB（鳥類識別）、Standford Dogs（狗類識別）、iNaturalist（動植物識別）的識別準(zhǔn)確率上達(dá)到91.3%、68.5%、92.4%的行業(yè)最優(yōu)效果，該研究成果也被多媒體國際權(quán)威頂會ACM MM 2021收錄，有望利用AI技術(shù)在商品和內(nèi)容治理的實(shí)際應(yīng)用中達(dá)到更好的效果。

此外，上個(gè)月，阿里安全聯(lián)合太平鳥（Mini Peace）、巴拉巴拉、安踏兒童、Paw in Paw四個(gè)童裝品牌，共同發(fā)起了一場“募名而來”10后AI虛擬童模全網(wǎng)征名活動。

此次慕名活動的主人公為4名AI虛擬童模，他們的年齡均在10歲以下，性格各異，還標(biāo)注了每位童模的身高體重，活動時(shí)間為7月26日至30日。據(jù)悉，這也是阿里自2020年底上線全國首款A(yù)I虛擬模特以來，首次推出商家專屬簽約模特，商家可以根據(jù)自己的風(fēng)格選擇對應(yīng)的虛擬模特。

值得一提的是，阿里安全原創(chuàng)保護(hù)平臺預(yù)計(jì)在8月份上線姿態(tài)選擇，搭配選擇等功能，讓商家可以自主搭配自己的模特合成套圖，也是給不同商家提供更多樣性的服務(wù)。

阿里表示，當(dāng)虛擬模特有了自己的姓名，也意味著他們更具有了獨(dú)一性與不可取代性。未來，阿里平臺希望每個(gè)商家都定制符合自身定位的專屬模特，將AI虛擬模特技術(shù)推廣覆蓋至全行業(yè)，幫助更多中小商家降本減負(fù)。