AI詐騙太猖狂，抖音下狠手，這些賬號(hào)要涼了

張一鳴開了個(gè)好頭。

一、抖音嚴(yán)厲打擊AI騙取老年人互動(dòng)行為

在今天這個(gè)時(shí)代，人工智能（AI）技術(shù)已經(jīng)變成一個(gè)似乎無所不能的魔術(shù)師，大家想看什么自己剪，想聽什么自己生成。

但有的時(shí)候，這位魔術(shù)師并不是那么“遵紀(jì)守法”——惡意抹黑信手拈來、騙人錢財(cái)也不在話下。

很多名人和大型企業(yè)對(duì)這玩意兒都十分頭疼，更別說辨識(shí)能力有所下降的老年人了。

大面積、大尺度的造假自然有人來管，那這些普通人日常受騙又該找誰呢？

因此，作為ai視頻充斥的自媒體平臺(tái)，抖音不得不站了出來。

近期，抖音官方發(fā)布了一則公告，宣布將嚴(yán)厲打擊利用AI技術(shù)騙取老年人互動(dòng)的行為。

具體來說，抖音發(fā)現(xiàn)，有些賬號(hào)利用AI技術(shù)生成了各種虛擬形象，比如小和尚、軍人、女性等，卻不在內(nèi)容中標(biāo)明這是AI的“杰作”。

這些賬號(hào)還用上了一套套的話術(shù)，比如讓小和尚說“你身邊有塊絆腳石，我?guī)湍惆嶙摺?/strong>、“如果覺得小和尚說得對(duì)，送給小和尚一朵小紅花吧”；

視頻源：抖音

讓軍人形象說“娘，別滑走，孩子想和您談?wù)勑摹?/strong>、“親愛的母親，我正在執(zhí)行任務(wù)，給我一點(diǎn)鼓勵(lì)”；

視頻源：抖音

甚至還有直接生成的AI美女，說“大叔，感謝你又來看妹妹了，如果再送我一朵花我會(huì)感動(dòng)一整天”。

視頻源：抖音

以此來騙取老年人的點(diǎn)贊、關(guān)注和評(píng)論，甚至導(dǎo)流獲利。

這些行為，抖音表示，嚴(yán)重違反了平臺(tái)規(guī)則，違規(guī)視頻一律下架，對(duì)違規(guī)賬號(hào)采取取消其投稿和營利權(quán)限、封禁賬號(hào)等處置。

另外，抖音宣布會(huì)持續(xù)利用模型、技術(shù)識(shí)別等手段，提高系統(tǒng)識(shí)別能力，進(jìn)行進(jìn)行長期系統(tǒng)的識(shí)別發(fā)現(xiàn)和及時(shí)處置。

要知道，去年5月抖音就有先見的發(fā)布了《抖音關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議》，規(guī)定AI創(chuàng)作內(nèi)容必須要有顯著標(biāo)識(shí)。

只不過當(dāng)時(shí)只是規(guī)定，并沒有嚴(yán)格控制，聲不聲明AI創(chuàng)作完全由作者自己決定，以至于被一些惡人找到了空子。

無獨(dú)有偶，就在上周，新華社也發(fā)布了一篇文章抨擊當(dāng)下的“AI污染”亂象。

在這篇文章中，新華社指出，現(xiàn)在的社交平臺(tái)上充斥著大量AI生成的虛假賬號(hào)，有些小說平臺(tái)的賬號(hào)依靠AI“創(chuàng)作”，一天能更新50部小說，不過這些小說的內(nèi)容常常邏輯不通、辭藻空洞。

更離譜的是，AI內(nèi)容創(chuàng)作甚至混進(jìn)了學(xué)術(shù)界，有頂尖高校學(xué)者在SCI發(fā)表的論文因插圖為AI生成且錯(cuò)誤百出，僅發(fā)表3天就被撤稿，成了學(xué)界的笑柄。

對(duì)于這種現(xiàn)象，新華社直接一針見血地指出“‘AI污染’會(huì)反噬AI產(chǎn)業(yè)的發(fā)展”。

所以，新華社也給出了一些建議，其中的一些想法與抖音不謀而合：

① 加大對(duì)AI學(xué)習(xí)和生成機(jī)制的源頭治理。具體點(diǎn)，要求作者強(qiáng)制對(duì)AI生成內(nèi)容打上顯著標(biāo)識(shí)。

② 加強(qiáng)對(duì)AI生成內(nèi)容的篩查監(jiān)管。

③ 提高用戶對(duì)AI生成內(nèi)容的辨別能力。這一點(diǎn)最難，畢竟AI技術(shù)越來越猛，年輕人可能還好，老年人很容易信以為真。

不過，AI技術(shù)的發(fā)展應(yīng)該受到監(jiān)管，不能讓它成為制造“信息垃圾”的工具。

AI技術(shù)越強(qiáng)大，越需要在一定的規(guī)則和監(jiān)管下使用。

畢竟，要是看個(gè)魔術(shù)就被魔術(shù)師把包里的錢給全變沒了，擱誰身上誰都接受不了。

二、AI 造假騙到股神巴菲特頭上

要是AI造假的視頻只有上面視頻中的那種程度倒也還好，不至于大多數(shù)人都看不出來。

但如果他們變成你崇拜的明星、企業(yè)家，你還能保持“火眼金睛”嗎？

著名香港演員“開心鬼”黃百鳴最近就遇到了這樣的煩惱。

有人在社交媒體上發(fā)布了一段經(jīng)過AI技術(shù)處理的視頻，視頻中的聲音被替換成了黃百鳴的聲音，用來為一個(gè)不知名的藥膏品牌代言。

黃百鳴立刻發(fā)表聲明，明確表示這是欺詐行為，目的是誤導(dǎo)公眾并從中獲利。

只能說這群人腦洞真大，沒錢請(qǐng)明星代言，就只好AI一個(gè)。

這還只是代言，前幾年“ai靳東”火遍全網(wǎng)，讓靳東“被迫”成為不少中年女性的夢(mèng)中情人，對(duì)靳東本人的形象同樣帶來了極大的困擾。

更狠的是，最近就連股神巴菲特也不得不站出來發(fā)聲。

巴菲特旗下的伯克希爾·哈撒韋公司在官網(wǎng)上發(fā)表了一份罕見的聲明，強(qiáng)調(diào)巴菲特不會(huì)在社交媒體上推薦任何投資產(chǎn)品和政治候選人。

圖源：Berkshire Hathaway

聲明中強(qiáng)調(diào)，現(xiàn)在人們?cè)絹碓蕉嗟厥褂蒙缃幻襟w，關(guān)于巴菲特代言投資產(chǎn)品以及他支持政治候選人的欺詐性聲明層出不窮。

也不難怪今年5月，巴菲特把AI叫做“原子彈”。

而在國外，像巴菲特和亞馬遜創(chuàng)始人杰夫·貝索斯等商界大佬，是AI詐騙分子最鐘愛的復(fù)制對(duì)象。

這些詐騙分子利用AI技術(shù)，制造出以假亂真的視頻和音頻，以此來欺騙投資者和公眾。

并且這種事很早就有人做了，只是沒想到今年以來他們?cè)絹碓讲瘛?/p>

但要說最近國內(nèi)“AI造假”最火的事件，還得是“AI雷軍”。

伴隨著一張雷軍的定妝照，各種視頻里都傳來了雷軍的聲音，一時(shí)間“雷軍語錄”火爆全網(wǎng)。

而且最關(guān)鍵的是這其中大部分的話還都不是他本人說的。

抖音平臺(tái)上的“AI雷軍”視頻最多，國慶放假7天無論你在關(guān)注哪個(gè)娛樂領(lǐng)域，大概率都能聽到“大家好，我是雷軍”。

由于雷軍的公開錄像很多，這些AI合成的聲音足以以假亂真，讓很多人信以為真。

這里面有的是鬼畜惡搞，但也有很多作者借著雷軍的聲音，在視頻中大罵特罵，“畜生”、“遙控小米su7撞死你”成了視頻里最高頻的詞語。

一些視頻甚至惡劣到引起了雷軍粉絲的不滿，他們轉(zhuǎn)發(fā)給小米高管，希望小米法務(wù)部能出手制裁。

但截至目前，小米法務(wù)部和雷軍本人對(duì)于這類事還沒有過完整的表態(tài)。

好在，不知道是平臺(tái)發(fā)力還是某種原因，最近這段時(shí)間“AI雷軍”總算是消停下來了。

三、AI 視頻泛濫成“災(zāi)”

AI視頻技術(shù)的普及，讓我們進(jìn)入了一個(gè)人人都能成為導(dǎo)演的時(shí)代。

沒錯(cuò)，是“人人”都能成為。

打開現(xiàn)在的抖音，搜索“AI視頻教程”，出來的結(jié)果沒有10000條也有1000。

這些教程的泛濫，讓制作一條AI視頻的門檻大大降低，甚至可以說沒有。

如果要說有的話，就是這些視頻也是在給自家的AI工具引流，普通人的門檻就是找到一款免費(fèi)且好用的AI工具，重點(diǎn)是免費(fèi)。

據(jù)了解，如今只需平均20秒就能生成一條AI音頻。

這么短的生成時(shí)間，再加上這么低的使用門檻，AI視頻變得泛濫好像也并不奇怪了。

有媒體采訪了這些制作AI視頻的博主，問他們，“你們難道不害怕侵權(quán)，不害怕被告嗎？”

有博主淡定地回答：“大家都在做，如果提示違規(guī)，刪了就行了。”

好一個(gè)“大家都在做”，好一個(gè)“刪了就行了”。

如此輕描淡寫，如此“法不責(zé)眾”。

另一方面，專家們有著同樣的擔(dān)憂。

清華大學(xué)新聞與傳播學(xué)院新媒體研究中心今年4月發(fā)布的一份研究報(bào)告顯示，近一年來，經(jīng)濟(jì)與企業(yè)類AI謠言量增速達(dá)99.91%。

大量的AI虛假信息不僅會(huì)侵害個(gè)人信息安全，還可能擾亂網(wǎng)絡(luò)空間生態(tài)秩序。

北京盈善律師事務(wù)所律師張清鑫也提到，自然人的聲音具有唯一性、獨(dú)特性，是自然人人格的重要組成部分，聲音權(quán)益是人格權(quán)的一種。

制作并上傳他人AI音頻的行為，無論出于何種目的，都已構(gòu)成對(duì)其人格權(quán)的侵犯。

如今，各大平臺(tái)也在不斷完善自己的社區(qū)規(guī)則，加強(qiáng)對(duì)AI內(nèi)容的審核和管理。

對(duì)此，很多人表示絕對(duì)支持。

這種事，的確不能只靠自覺，還得是官方出手。