螞蟻數(shù)科CTO王維：AI亟待提升專業(yè)性和可信性

10月30日消息，螞蟻數(shù)科CTO王維在香港金融科技周2024分享時指出，“大模型的應(yīng)用從‘上新品’逐漸進(jìn)入‘強(qiáng)應(yīng)用’階段，更好的通用人工智能仍在路上。”

兩年前，大語言模型（LLM）的出現(xiàn)，引發(fā)了全球科技從業(yè)者的普遍關(guān)注和行業(yè)熱潮。經(jīng)過一段時間的狂奔，LLM性能階段性趨于飽和，大模型底層推動力逐漸收斂到少數(shù)擁有核心數(shù)據(jù)及算力資源的公司，行業(yè)注意力也更多轉(zhuǎn)到了以Agent為代表的行業(yè)應(yīng)用側(cè)。

如何解放LLM應(yīng)用的局限性？王維強(qiáng)調(diào)，高質(zhì)量的行業(yè)數(shù)據(jù)和專業(yè)工具是AI繼續(xù)發(fā)展的關(guān)鍵壁壘和門檻，行業(yè)應(yīng)用需要系統(tǒng)性地解決專業(yè)嚴(yán)謹(jǐn)和安全可信等問題。螞蟻數(shù)科“蟻天鑒”產(chǎn)品集大模型安全測評與防御為一體，讓大模型在生產(chǎn)和使用過程中更安全、可控、可靠。

圖源：螞蟻數(shù)科

王維認(rèn)為，高質(zhì)量數(shù)據(jù)可以更好地模擬客觀世界，提升模型的準(zhǔn)確性和穩(wěn)定性。在過去十年，伴隨著AI發(fā)展的范式轉(zhuǎn)移，對數(shù)據(jù)的要求也在改變。機(jī)器學(xué)習(xí)從“以模型為中心”轉(zhuǎn)向“以數(shù)據(jù)為中心”。在當(dāng)下的LLM時代，行業(yè)應(yīng)用要做到安全可信，其核心是如何結(jié)合專業(yè)人工+AI算法的高效標(biāo)注，產(chǎn)生高質(zhì)量的標(biāo)注數(shù)據(jù)。

面向未來的AGI時代，隨著互聯(lián)網(wǎng)公開數(shù)據(jù)逐步耗盡，以及GPT-o1帶來的強(qiáng)化學(xué)習(xí)訓(xùn)練新范式，都預(yù)示著數(shù)據(jù)合成的重要性進(jìn)一步提升。王維指出，如何通過仿真引擎、自博弈（self-play）強(qiáng)化學(xué)習(xí)的方式，合成出更多互聯(lián)網(wǎng)所不覆蓋的高質(zhì)量、高價值領(lǐng)域數(shù)據(jù)，將是到達(dá)AGI時代的關(guān)鍵。

圖源：螞蟻數(shù)科

王維也提醒道，AI是把雙刃劍，AIGC濫用所帶來的風(fēng)險(xiǎn)需要系統(tǒng)性應(yīng)對。AIGC的濫用不僅會產(chǎn)生虛假信息和網(wǎng)絡(luò)釣魚攻擊，還可能引發(fā)全球性的詐騙活動。其中，值得關(guān)注的一大風(fēng)險(xiǎn)來源便是Deepfake, 即基于深度學(xué)習(xí)算法，從大量的視頻和圖像數(shù)據(jù)中學(xué)習(xí)，偽造出逼真的面部動畫和語音。

螞蟻數(shù)科旗下身份安全品牌ZOLOZ為此專門研發(fā)了綜合防控產(chǎn)品ZOLOZ Deeper，以應(yīng)對在開戶、登錄、支付等各種場景的深度偽造風(fēng)險(xiǎn)。在服務(wù)印尼某頭部銀行后，產(chǎn)品上線一個月時間內(nèi)實(shí)現(xiàn)了Deepfake風(fēng)險(xiǎn)“0漏過”。