11月22日消息，小紅書副總裁許磊日前出席2024烏鎮(zhèn)世界互聯(lián)網(wǎng)大會(huì)“人工智能技術(shù)創(chuàng)新與治理”論壇，并發(fā)表主旨演講。許磊指出，AIGC大幅降低內(nèi)容創(chuàng)作門檻的同時(shí)，也對(duì)平臺(tái)治理帶來(lái)了新挑戰(zhàn)。小紅書已初步完成AIGC治理體系建設(shè)，將持續(xù)治理工作推進(jìn)，守好“真實(shí)”的平臺(tái)生命線。

圖源：央廣網(wǎng)

許磊表示，“我們相信算法是有價(jià)值觀的?！弊鳛楣膭?lì)用戶真誠(chéng)分享的內(nèi)容社區(qū)，小紅書基于個(gè)性化推薦算法，將超過(guò)一半的流量曝光分配給千粉以下用戶，踐行流量普惠。隨著生成式人工智能技術(shù)的興起，算法從分發(fā)領(lǐng)域進(jìn)入到內(nèi)容生產(chǎn)領(lǐng)域，對(duì)內(nèi)容平臺(tái)帶來(lái)了全新的機(jī)遇與挑戰(zhàn)。AI輔助工具提升了用戶創(chuàng)作的積極性，同時(shí)也降低了惡意仿冒的門檻，增加了虛構(gòu)新聞、假冒真人引流和虛假營(yíng)銷的風(fēng)險(xiǎn)。

許磊表示，小紅書為“真誠(chéng)分享”而生，真實(shí)是小紅書平臺(tái)的生命線。為此，小紅書在2023年就啟動(dòng)應(yīng)對(duì)AIGC的治理體系建設(shè)，并在公司層面成立了專項(xiàng)組，推進(jìn)治理工作。

首先，小紅書加大AI識(shí)別模型的研發(fā)投入，基于“分類器”技術(shù)的識(shí)別模型，平臺(tái)對(duì)識(shí)別為疑似AI生成的內(nèi)容進(jìn)行顯著標(biāo)識(shí)，提醒用戶注意甄別內(nèi)容真實(shí)性。同時(shí)，平臺(tái)設(shè)置了機(jī)器識(shí)別+人工識(shí)別的雙重屏障，以減少AI生成低質(zhì)內(nèi)容的曝光，針對(duì)其中侵權(quán)、假冒、誘導(dǎo)等內(nèi)容第一時(shí)間下架處理。

對(duì)于創(chuàng)作者，平臺(tái)要求主動(dòng)對(duì)AI生成內(nèi)容進(jìn)行顯著標(biāo)識(shí)，并持續(xù)簡(jiǎn)化打標(biāo)流程，鼓勵(lì)創(chuàng)作者利用新技術(shù)進(jìn)行內(nèi)容創(chuàng)新的同時(shí)，也積極參與到生態(tài)建設(shè)中。許磊表示，“小紅書將創(chuàng)新與治理兩手抓，迎接好新一波人工智能技術(shù)浪潮帶來(lái)的機(jī)遇與挑戰(zhàn)。”