螞蟻集團(tuán)漆遠(yuǎn)：“智能對(duì)抗”技術(shù)已應(yīng)用于支付寶反欺詐

7月9日消息，在2021世界人工智能大會(huì)-可信AI論壇上，螞蟻集團(tuán)副總裁、首席AI科學(xué)家漆遠(yuǎn)教授在會(huì)上透露，螞蟻集團(tuán)在可信AI技術(shù)體系中的又一項(xiàng)重要技術(shù)——“智能對(duì)抗”技術(shù)現(xiàn)已正式上線部署，支持反欺詐等多個(gè)風(fēng)控場(chǎng)景。

據(jù)悉，“智能對(duì)抗”技術(shù)2020年就已正式應(yīng)用于支付寶反欺詐，目前已覆蓋支付寶風(fēng)控的賬戶、欺詐、交易安全等多個(gè)場(chǎng)景，對(duì)AI模型的魯棒性（robustness）有明顯提升。

2018年，漆遠(yuǎn)帶領(lǐng)著螞蟻集團(tuán)AI技術(shù)骨干，在人工智能模型算法中融入經(jīng)濟(jì)學(xué)“博弈理論”，開(kāi)發(fā)了一項(xiàng)業(yè)界全新的技術(shù)——“智能對(duì)抗”，即通過(guò)結(jié)合AI和博弈對(duì)抗，讓機(jī)器自動(dòng)且實(shí)時(shí)、動(dòng)態(tài)地對(duì)自身系統(tǒng)進(jìn)行安全性攻擊，從而提升模型能力，使模型更加魯棒（robust），處理結(jié)果更加準(zhǔn)確。

他還稱，融入經(jīng)濟(jì)學(xué)“博弈理論”的“智能對(duì)抗”技術(shù)，能夠借助“雙手互博”的演習(xí)機(jī)制，讓AI模擬黑產(chǎn)發(fā)起對(duì)自身的攻擊演練，從而幫助AI在風(fēng)險(xiǎn)識(shí)別能力、抗打擊能力上持續(xù)、自動(dòng)進(jìn)化升級(jí)。另外，該技術(shù)應(yīng)用于金融風(fēng)控領(lǐng)域，在業(yè)內(nèi)尚屬首次。

漆遠(yuǎn)在演講中表示，“未來(lái)的風(fēng)控將不再是人和人的斗爭(zhēng)，而是AI與AI的博弈。在支付寶上，每天上億筆交易背后，發(fā)起攻擊的早已不是散戶，而是專業(yè)的黑產(chǎn)團(tuán)伙?！?/p>

值得一提的是，自2018年起，螞蟻集團(tuán)“智能對(duì)抗”技術(shù)的相關(guān)研究成果已陸續(xù)在包括ICML、ICLR在內(nèi)的全球技術(shù)頂會(huì)上發(fā)表，擁有全球?qū)＠?項(xiàng)。

此外，漆遠(yuǎn)在曾科學(xué)公益組織 “未來(lái)論壇” 的活動(dòng)中表示，螞蟻集團(tuán)已完成“空中手勢(shì)”驗(yàn)證碼識(shí)別方案的研發(fā)，該方案利用“行為識(shí)別”技術(shù)幫助視障群體通過(guò)“驗(yàn)證碼”關(guān)卡，未來(lái)將在支付寶上線。