快手發(fā)布《2023暑期青少年數(shù)據(jù)報告》 處置不良違規(guī)視頻18萬余條

9月6日消息，快手今日發(fā)布《2023暑期青少年數(shù)據(jù)報告》。報告顯示，今年6月28日起，快手開展為期2個月的暑期未成年人網(wǎng)絡(luò)環(huán)境專項治理，全面深入清理不良信息和內(nèi)容，對于涉未成年人不良信息從深從細(xì)整治、從嚴(yán)從重處置。

專項治理重點包括：涉未成年人的有害信息，尤其利用諧音變體、AI等傳播有害信息；欺騙、誘導(dǎo)未成年人，如教授未成年人破解防沉迷系統(tǒng)等；未成年人網(wǎng)絡(luò)霸凌，如惡意傳播泄露未成年人隱私的欺凌視頻；利用未成年人群體或身份炒作、博取關(guān)注；影響未成年人身體健康的不良信息和行為，如誘導(dǎo)吸煙喝酒等；其他嚴(yán)重侵害未成年人合法權(quán)益的有害信息。

快手《2023暑期青少年數(shù)據(jù)報告》截圖

來源：快手大數(shù)據(jù)研究院公眾號

報告數(shù)據(jù)顯示，在兩個多月的時間里，快手通過暑期專項治理共處置違規(guī)視頻182778條、違規(guī)賬號6387個。

據(jù)介紹，隨著生成式AI技術(shù)的迅速發(fā)展和普及，在“不良內(nèi)容、重點賬號、評論治理”等3個傳統(tǒng)場景進(jìn)行重點治理的基礎(chǔ)上，快手今年在“生成式人工智能”場景下專項提升算法的識別能力，圍繞未成年人暑期網(wǎng)絡(luò)環(huán)境專項治理重點領(lǐng)域，根據(jù)治理要求的迭代，不斷細(xì)化審核規(guī)則、搭建1個專項審核隊列，通過“4+1”的模式全面壓縮有害信息隱形變異的生存空間，遏制侵害未成年人權(quán)益的違法行為。

快手《2023暑期青少年數(shù)據(jù)報告》

來源：快手大數(shù)據(jù)研究院公眾號

快手面向4大治理場景升級了青少年保護(hù)專屬算法模型。其中，針對不良內(nèi)容，采用了未成年人算法識別模型、皮膚裸露面積識別模型；針對重點賬號，采用了兒童人臉與場景結(jié)合識別模型、異常用戶識別算法模型；針對評論治理場景，采用了語音語義識別算法模型和諧音詞、變異詞識別模型；針對生成式人工智能，采用了Al轉(zhuǎn)換內(nèi)容識別模型。

此外，根據(jù)新出現(xiàn)的不良內(nèi)容樣本，在此前三重機(jī)審+多重人審的基礎(chǔ)上，進(jìn)一步細(xì)化審核規(guī)則在暑期專項期間，搭建涉及校園主題專項審核隊列。要求審核經(jīng)驗豐富審核員對相關(guān)內(nèi)容進(jìn)行專審，按照從嚴(yán)審核的標(biāo)準(zhǔn)處置相關(guān)不良視頻。