支付寶“智能金融犯罪風(fēng)險防控模型”高分通過中國信通院測評

12月27日消息，近日，在“2021 GOLF+ IT新治理領(lǐng)導(dǎo)力論壇”上，中國信息通信研究院正式發(fā)布了“人工智能模型風(fēng)險治理能力成熟度測評”的首批評估結(jié)果。由支付寶、招商銀行等企業(yè)送測的4個AI模型，成為首批通過風(fēng)險治理成熟度測評的人工智能模型。

其中，支付寶送測的、基于可信AI技術(shù)的“智能金融犯罪風(fēng)險防控模型”，在“AI模型全生命周期管理”、“應(yīng)急響應(yīng)”、“決策透明”三個測試項目中，均排名第一；并在考察AI可解釋性的“決策透明”項目中，獲得了本期測評的最高評級（卓越級）。

（圖源CAICT數(shù)字化治理，下同）

據(jù)悉，此次測評參照的標(biāo)準(zhǔn)是由中國信通院聯(lián)合京東、螞蟻集團(tuán)、字節(jié)跳動、快手、京東科技、滴滴等20余家企業(yè)和專家依托中國互聯(lián)網(wǎng)協(xié)會平臺聯(lián)合制定的《人工智能模型風(fēng)險治理能力成熟度模型》。該標(biāo)準(zhǔn)聚焦企業(yè)人工智能模型風(fēng)險治理，建立了一套圍繞人工智能模型的風(fēng)險治理能力成熟度的治理框架。

測評圍繞“AI模型全生命周期管理”、“應(yīng)急響應(yīng)”、“決策透明”、“專利保護(hù)”、“模型安全影響評估”、“交互與溝通”、“外部合作”等板塊展開；對參評企業(yè)在可信人工智能領(lǐng)域，包括魯棒性、可解釋性、公平性、數(shù)據(jù)隱私保護(hù)等不同維度的技術(shù)能力及技術(shù)治理方案都做出了規(guī)范和要求。

人工智能模型風(fēng)險治理能力成熟度可評估模塊

螞蟻集團(tuán)全面風(fēng)險管理部高級專家楊舟表示，此次送測的“智能金融犯罪風(fēng)險防控模型”此前已廣泛應(yīng)用于反欺詐等金融犯罪風(fēng)險防控領(lǐng)域，不僅在隱私保護(hù)、公平性等領(lǐng)域的技術(shù)創(chuàng)新及實踐應(yīng)用上積累了豐富的經(jīng)驗，在操作風(fēng)險防控、模型全生命周期質(zhì)量管控、模型使用管理等模型治理方面，也做出了許多積極探索?？尚?、智能模型風(fēng)險管理體系已成為螞蟻全面風(fēng)險管理的核心模塊。