抖音打擊AI網(wǎng)紅

AI時(shí)代，幾乎人人都說(shuō)每個(gè)行業(yè)和產(chǎn)品都值得重做一遍。近幾年來(lái)，社交媒體上就涌現(xiàn)了一批AI網(wǎng)紅，開(kāi)始四處尋找機(jī)會(huì)變現(xiàn)。

所謂的AI網(wǎng)紅指利用人工智能技術(shù)創(chuàng)造出來(lái)的虛擬人物，通過(guò)社交媒體平臺(tái)進(jìn)行內(nèi)容創(chuàng)作和互動(dòng)，吸引粉絲關(guān)注。

當(dāng)然，利用AI通過(guò)正當(dāng)手段獲取利益無(wú)可厚非，但是不惜手段博眼球牟利就有可能違規(guī)甚至違法。

比如在社交媒體上有的賬號(hào)人設(shè)為俄羅斯美女，其自稱“在中國(guó)生活”“想嫁中國(guó)男人”“感謝中國(guó)”流量變現(xiàn)帶貨，消費(fèi)愛(ài)國(guó)心理。

在這個(gè)AI網(wǎng)紅大火后，有名外籍控訴該賬號(hào)盜用其面孔和聲音。匪夷所思的是，有網(wǎng)友稱“看不出來(lái)是AI生成的”

圖源：截自微博

而有的甚至利用AI生成俊男美女虛假形象，直接稱用戶為“你”“娘”“媽媽”“老公”等，發(fā)布情感誘導(dǎo)、唱情歌、為你謀福利等表達(dá)虛假情感的內(nèi)容，將用戶導(dǎo)流至私人聊天工具，甚至進(jìn)行詐騙。

在AI技術(shù)發(fā)展如此快速的今天，AI亂象層出不窮，社交媒體平臺(tái)也在不斷打擊AI違規(guī)行為。

今日，抖音方面稱平臺(tái)已掌握部分黑產(chǎn)團(tuán)伙不當(dāng)使用AI生成虛擬人物用于犯罪的線索，將報(bào)警打擊。

抖音平臺(tái)發(fā)現(xiàn)，站內(nèi)仍有不當(dāng)使用AI技術(shù)生成虛擬人物發(fā)布內(nèi)容的賬號(hào)，平臺(tái)進(jìn)行了嚴(yán)厲處置。

針對(duì)違規(guī)使用AI生成虛擬人物的行為，平臺(tái)會(huì)對(duì)違規(guī)視頻下架，對(duì)違規(guī)賬號(hào)進(jìn)行取消其投稿和營(yíng)利權(quán)限、抹除賬號(hào)粉絲、封禁賬號(hào)等處置，并利用模型、技術(shù)識(shí)別能力等手段，進(jìn)行長(zhǎng)期系統(tǒng)的識(shí)別發(fā)現(xiàn)和處置。

對(duì)于用AI生成虛擬人物的違規(guī)行為，抖音列出了幾個(gè)典型范例。主要包括利用AI生成假外國(guó)人、假精英及利用AI生成形象騙互動(dòng)等三類(lèi)內(nèi)容。

圖源：截自抖音安全中心

另外，抖音平臺(tái)明確，包括創(chuàng)作者、主播、用戶、商家、廣告主等在發(fā)布生成式人工智能技術(shù)時(shí)要遵循相應(yīng)規(guī)范。

具體來(lái)看，發(fā)布者應(yīng)對(duì)人工智能生成內(nèi)容進(jìn)行顯著標(biāo)識(shí)，幫助其他用戶區(qū)分虛擬與現(xiàn)實(shí)，特別是易混淆場(chǎng)景。

發(fā)布者需對(duì)人工智能生成內(nèi)容產(chǎn)生的相應(yīng)后果負(fù)責(zé)，無(wú)論內(nèi)容是如何生成的；虛擬人需在平臺(tái)進(jìn)行注冊(cè)，虛擬人技術(shù)使用者需實(shí)名認(rèn)證；

禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容，包括但不限于肖像權(quán)、知識(shí)產(chǎn)權(quán)等；禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布違背科學(xué)常識(shí)、弄虛作假、造謠傳謠的內(nèi)容。

實(shí)際上，不管AI發(fā)展到什么程度，它始終是作為推進(jìn)人類(lèi)社會(huì)進(jìn)步的輔助工具。那么AI作為工具，往好的方向用自然是大有裨益，如果使用不當(dāng)，遭到抵制是遲早的事，畢竟事在人為。

揭秘AI網(wǎng)紅生意經(jīng)

現(xiàn)如今社交媒體開(kāi)始涌現(xiàn)一批AI賬號(hào)帶貨，背后其實(shí)衍生了一條產(chǎn)業(yè)鏈。

據(jù)中新網(wǎng)，有一位運(yùn)營(yíng)了多個(gè)AI外國(guó)美女賬號(hào)的人介紹，打造此類(lèi)賬號(hào)的技術(shù)難度和成本并不高，通過(guò)AI肖像克隆軟件和真人視頻素材就可以實(shí)現(xiàn)，目前業(yè)內(nèi)已有一些成熟的生成類(lèi)軟件。每個(gè)賬號(hào)每天耗費(fèi)一兩個(gè)小時(shí)，主要以積累粉絲、帶貨為目的，粉絲以中老年人為主。

比如抖音賬號(hào)“巧克力，小檸檬”，其賬號(hào)為一個(gè)中年美女情感導(dǎo)師形象，內(nèi)容大多是繞不開(kāi)男人與女人之間的情感問(wèn)題。

在抖音已經(jīng)出現(xiàn)不少“巧克力，小檸檬”的同類(lèi)型賬號(hào)，他們的用戶畫(huà)像大多聚焦40歲以上男性，同時(shí)借助美女形象批量輸出情感雞湯，最后靠商品櫥窗和專屬會(huì)員等方式變現(xiàn)。

圖源：新榜

此外，除了運(yùn)營(yíng)賬號(hào)帶貨之外，他們還售賣(mài)此類(lèi)賬號(hào)的素材和運(yùn)營(yíng)輔導(dǎo)，收費(fèi)為2980元，帶貨所得與學(xué)員均分。

甚至，還有教程在電商平臺(tái)售賣(mài)。在電商交易平臺(tái)上輸入“AI美女”，即可看到“新手日入2000+”“5分鐘制作視頻”“趕快做個(gè)賬號(hào)吧”等極具誘導(dǎo)性的宣傳語(yǔ)，多以網(wǎng)盤(pán)的形式發(fā)貨，標(biāo)價(jià)在幾元至幾十元間。

圖源：中新網(wǎng)

但這樣使用AI帶貨的風(fēng)險(xiǎn)很大，使用他人肖像合成AI視頻進(jìn)行直播帶貨，可能會(huì)涉及到對(duì)于買(mǎi)方的虛假宣傳，甚至欺詐，很有可能得不償失。

早在2023年5月9號(hào)，抖音就發(fā)布了《抖音關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議》，規(guī)范表示，虛擬人主播需要進(jìn)行實(shí)名注冊(cè)，同時(shí)需要標(biāo)明“虛擬人直播”。這意味著，試圖無(wú)限接近真人的仿生人主播，依然要面臨觀眾的直接審視。

還有業(yè)內(nèi)人士表示，自然人享有肖像權(quán)，民法典明確規(guī)定，使用他人肖像需要經(jīng)過(guò)他人的事前同意，否則構(gòu)成肖像侵權(quán)。

需要注意的是，肖像侵權(quán)的構(gòu)成要件不包括以盈利為目的，即使并非以盈利為目的使用他人肖像，仍然構(gòu)成肖像侵權(quán)。

“即使被侵權(quán)方在國(guó)外，也并不影響關(guān)于侵權(quán)的認(rèn)定，不過(guò)他們維權(quán)比較困難，成本比較高?！?/p>

同時(shí)，某種情況下，制作未經(jīng)授權(quán)的真人數(shù)字復(fù)制品也可能涉嫌構(gòu)成刑事犯罪。比如利用他人的肖像合成的AI視頻，從事詐騙等違法犯罪活動(dòng)。

直播電商已經(jīng)到了下半場(chǎng)

目前來(lái)看，AI網(wǎng)紅涌現(xiàn)在各個(gè)社交平臺(tái)的主要原因是低投入、高回報(bào)、高效率，但隨著AI條例更加規(guī)范，平臺(tái)監(jiān)管也愈加嚴(yán)格，用AI做生意不一定能長(zhǎng)久。

畢竟這種根據(jù)虛構(gòu)的人設(shè)定位吸引消費(fèi)者購(gòu)買(mǎi)的行為可能存在欺騙嫌疑。再者，直播間要能賺錢(qián)，靠的是人、貨、場(chǎng)三者良好的經(jīng)營(yíng)。

首先，在帶貨行業(yè)中，建立信任機(jī)制是非常重要的。如果博主或主播所推薦的商品與實(shí)際不符，消費(fèi)者很可能會(huì)失去信任，畢竟在帶貨過(guò)程中，透明度和誠(chéng)實(shí)是贏得消費(fèi)者信任的關(guān)鍵。

另一方面，主播逐漸成為消費(fèi)者下單的重要一環(huán)。主播與粉絲之間的情感連接也對(duì)消費(fèi)者的購(gòu)買(mǎi)意愿產(chǎn)生影響。比如董宇輝通過(guò)幽默風(fēng)趣、出口成章的才華吸引了一大批“丈母娘”粉絲。

再來(lái)看，直播帶貨的成功離不開(kāi)供應(yīng)鏈的支持。在直播電商下半場(chǎng)，需要更加注重供應(yīng)鏈的管理和優(yōu)化，確保產(chǎn)品的質(zhì)量和供應(yīng)能力。因?yàn)楣?yīng)鏈的穩(wěn)定性和可靠性對(duì)于直播帶貨的持續(xù)增長(zhǎng)至關(guān)重要，否則是不能長(zhǎng)久做下去的。

另外，在下半場(chǎng)，主播需要更具備更加專業(yè)的知識(shí)能力，專注于帶貨，提供優(yōu)質(zhì)的產(chǎn)品推薦和服務(wù)。

目前來(lái)說(shuō)，AI的工具屬性對(duì)于直播電商行業(yè)確實(shí)是產(chǎn)生很大的變革，但作為使用工具的人，需要將其價(jià)值利用好，否則就會(huì)適得其反。