螞蟻集團(tuán)彭晉：2025年模型能力提升與風(fēng)險(xiǎn)預(yù)防并重

1月8日消息，在智源研究院舉辦的AI十大趨勢(shì)發(fā)布會(huì)上，螞蟻集團(tuán)科技戰(zhàn)略與執(zhí)行部副總經(jīng)理彭晉就AI安全做了分享，他表示，作為復(fù)雜系統(tǒng)，大模型的Scaling帶來(lái)了涌現(xiàn)，但復(fù)雜系統(tǒng)特有的涌現(xiàn)結(jié)果不可預(yù)測(cè)、循環(huán)反饋等特有屬性也對(duì)傳統(tǒng)工程的安全防護(hù)機(jī)制帶來(lái)了挑戰(zhàn)，風(fēng)險(xiǎn)因素在數(shù)據(jù)、算法、應(yīng)用層面均會(huì)出現(xiàn)。他認(rèn)為，模型能力提升與風(fēng)險(xiǎn)預(yù)防并重，AI安全治理體系持續(xù)完善。