小楊哥三只羊，被人用AI搞假證據(jù)害慘了

人工智能，一把雙刃劍。

一、AI造假盯上了頭部帶貨主播

在數(shù)字化時代，信息傳播的速度比以往任何時候都快，但這也意味著虛假信息的傳播同樣迅猛。

最近，“三只羊盧某某錄音”的瓜大家都有吃到吧，就算沒怎么關(guān)注的朋友，也可能看到過網(wǎng)上對三只羊的各種調(diào)侃甚至謾罵。

事情的起因是一段關(guān)于三只羊公司董事長盧某某的“酒后錄音”在網(wǎng)絡(luò)上瘋傳。

在這段錄音中，一個和盧某某本人非常相似的聲音大肆地說著一些違背倫理的話，引來公眾對盧某及三只羊公司的各種批評與指責(zé)。

然而，隨著合肥市公安局高新分局的介入，事件竟然得到了反轉(zhuǎn)。

警方通報指出，經(jīng)過偵查，所謂的錄音實際上是偽造的，是由一名25歲的男子王某某利用AI技術(shù)合成的。

有意思的地方來了。在警方通報后不久，一家名為深圳市睿域科技有限公司的AI公司出面發(fā)表了聲明。

該公司宣稱，嫌疑人王某某使用的其公司自主研發(fā)的Reecho 睿聲AI配音大模型平臺，由盧某此前直播片段的約30秒錄音進(jìn)行克隆，并通過文本進(jìn)行生成。

這無疑一下給事件增添了更多的戲劇性。有網(wǎng)友戲稱，這算不算是三只羊無意間打了個“超硬核廣告”？

畢竟，能夠以假亂真到最后讓警方介入調(diào)查，這款A(yù)I軟件的生成能力可以拿出去吹半年了。

玩笑過后，我們需要重視的是這么強(qiáng)的AI能力，這么低的使用門檻，會不會導(dǎo)致以后更多類似的事件發(fā)生？

該公司也說了，目前，公司已經(jīng)啟動內(nèi)部審核機(jī)制，進(jìn)一步加強(qiáng)用戶身份認(rèn)證與音頻生成的安全管控措施，確保技術(shù)合法合規(guī)應(yīng)用。

事實上，無論是從網(wǎng)紅的角度還是直播帶貨的角度，三只羊并不是第一個AI“受害者”，但事情大到被警方調(diào)查通報，它確實是第一個。

為什么這么說呢？因為就在前不久，另一位直播帶貨行業(yè)的新任巨頭董宇輝也遭受了AI造假的困擾。

就在他出差去巴黎看奧運(yùn)會的那段時間里，網(wǎng)絡(luò)上突然多出一大堆“董宇輝語錄”，聊女人，聊生活啥都有，甚至很多短視頻中還掛著小黃車鏈接，想以此坑“丈母娘”們一筆。

這不得不讓董宇輝在回國后的直播中公開表示，網(wǎng)傳的很多言論都是通過AI合成的，并非出自他本人之口。

“聲音仔細(xì)聽是能聽出來區(qū)別的，說我在評價女性還是家庭，我哪說過這話?！?/span>

“網(wǎng)上傳好多就是那種AI合成的，我搜才發(fā)現(xiàn)我有那么多話題全AI合成的，然后那一整個賬號發(fā)的幾乎沒有一句話是我真正說過的。”

這些話語的背后，是董宇輝的無奈，是AI技術(shù)在流量經(jīng)濟(jì)中正被惡意利用，成為某種程度上操縱輿論、損害個人名譽(yù)的工具。

再回到三只羊事件上，其實該錄音被所謂曝光后不久，大楊嫂（大楊哥老婆）就已經(jīng)出面澄清錄音不實，還因此發(fā)了很長的一段話來表達(dá)自己的不滿。

但在當(dāng)時網(wǎng)友們卻更傾向于認(rèn)為她只是在強(qiáng)行解釋，為自家公司洗白。

而直到她的言論被官方證實后，情況和想象中好像又不太一樣，部分網(wǎng)友對三只羊的抵觸情緒竟然還不減反增？

比起錄音的真實性，他們更關(guān)心這起事件的發(fā)酵，是否成為了掩蓋三只羊賣假貨的手段，更有網(wǎng)友直言：“賣假貨沒得洗”、“轉(zhuǎn)移視聽，man”。

僅從假錄音事件來看，不免讓人有些細(xì)思極恐。

現(xiàn)在市面上有很多AI軟件、AI應(yīng)用為了拉前期的用戶量，大多都以簡單的條件甚至是無條件免費(fèi)開放給用戶使用，下載完即可開始使用。

從最開始的文字對話，到現(xiàn)在文生圖、圖生圖、圖生視頻等應(yīng)有盡有，普通人在微博上分享的一張自己的美照很可能就變成了別人利用的素材。

AI技術(shù)的發(fā)展，本應(yīng)為人類帶來便利和進(jìn)步，但在不法分子手中，它卻變成了制造混亂和傷害的工具。

這不僅對個人名譽(yù)造成了影響，也對當(dāng)前的誠信體系構(gòu)成了挑戰(zhàn)。

畢竟，三只羊的事件雖然目前已告一段落，但仍然有許多隱患等待著有關(guān)部門去解決。

誰也不想哪天突然在某些惡劣視頻上看到自己的臉，亦或是因為自己的某張照片害家里人被換臉技術(shù)騙了一大筆錢。

AI音頻，還只是其中小小的一部分。

二、從國內(nèi)騙到國外的AI技術(shù)

剛才介紹了這么多現(xiàn)在AI的功能，AI音頻只是其中之一，更狠的AI造假莫過于“AI一鍵去衣”、“AI換臉”等。

在北京警方偵破的一起案件中，一名犯罪嫌疑人白某某就利用AI技術(shù)，制作并販賣了近7000張裸照！是的，裸照，AI弄的。

他原本是一家互聯(lián)網(wǎng)公司的技術(shù)員，卻動起了歪心思，打算利用這項技術(shù)來賺錢。

白某某通過境外社交媒體接觸到了這項“一鍵去衣”的技術(shù)，于是他開始了自己的犯罪行為。

他使用的人工智能軟件，能在幾秒鐘內(nèi)對被害人的圖片進(jìn)行“一鍵去衣”，批量生成相應(yīng)的圖片。

這些圖片的受害者包括學(xué)生、教師、同事等，涉及女性人數(shù)眾多。并且，白某某還在QQ上向351個人販賣過相關(guān)圖片，每張圖片的售價僅為1.5元。

這項技術(shù)操作起來十分簡單，去衣只需要一鍵就能完成，因此白某某定價不高，希望能利用低價吸引更多的訂單。

但事實上，據(jù)專家透露，他所利用的這款A(yù)I技術(shù)并不是真能一鍵“去衣”，而是AI在人物模型的基礎(chǔ)上重新生成了一張你想要的圖片。

但即便如此，白某某的行為依然造成了極惡劣的社會影響，要知道那些裸照里面有他的同事，甚至還有學(xué)生！

無獨(dú)有偶，另一名男子虞某玩得更花，他利用AI換臉技術(shù)制作定制視頻，并以此牟利。

在社交軟件上，虞某創(chuàng)建了“瀏覽群”和“私人定制群”，傳播AI換臉的淫穢視頻吸引、招攬觀看者。

虞某根據(jù)視頻的長度、清晰度等難易條件，按照5分鐘300元、10分鐘500元等標(biāo)準(zhǔn)來收取定制的費(fèi)用。

也就是說，只要你提供人物、視頻長度等各種需求，什么明星、身邊朋友、你想要的他都能滿足，只是價格有所不同。

這玩意兒可不能細(xì)想，不然聽起來的確是個誘惑力與犯罪感十足的操作。

然而，在國外，AI換臉來得就更直接了，被人直接用來詐騙，而且騙的錢還不少。

一個著名的案例則是近期的“AI馬斯克”騙取美國一老人69萬美元退休金事件。

詐騙分子利用AI技術(shù)，制作出特斯拉CEO馬斯克的虛假視頻，并利用這些視頻為各種虛假產(chǎn)品或“投資”進(jìn)行背書，承諾高額的投資回報。

在這些視頻中，AI馬斯克都會承諾各種快速回報的激進(jìn)投資機(jī)會，口型與聲音都高度吻合，看起來極為真實。

這些案例都揭示了AI技術(shù)在個人隱私侵犯與詐騙中的潛在危害。

AI換臉技術(shù)可以輕易地模仿任何人的面貌和聲音，制造出極具欺騙性的視頻。這不僅對個人隱私造成了極大的威脅，也為詐騙活動提供了新的工具。

AI造假技術(shù)的濫用，讓我們不得不面對一個嚴(yán)峻的現(xiàn)實：在數(shù)字時代，眼見不一定為實。

我們需要更加警惕，提高自己的信息識別能力，同時，也需要法律和技術(shù)的共同進(jìn)步，來應(yīng)對這一挑戰(zhàn)。

三、AI的正確打開方式

人工智能（AI）技術(shù)，作為當(dāng)代科技進(jìn)步的象征，正如一把鋒利的雙刃劍，正以前所未有的速度改變著我們的生活和工作方式。

AI技術(shù)的核心在于其強(qiáng)大的數(shù)據(jù)處理和學(xué)習(xí)能力，這使得它在醫(yī)療、教育、交通等多個領(lǐng)域展現(xiàn)出巨大潛力。

但同樣的能力，也使得AI成為潛在的危險源。在缺乏有效監(jiān)管的情況下，AI技術(shù)很輕易的就能變成被用于制造虛假信息、侵犯個人隱私，甚至進(jìn)行犯罪活動的工具。

從這方面看來，AI的確是把雙刃劍。

當(dāng)然了，作為工具，它本身是沒有好壞之分的，區(qū)別就在于使用它們的人。

但作為技術(shù)的供應(yīng)方，你總不能在用戶使用你的應(yīng)用前要先給他來個“政審”吧？或者先來個犯罪傾向問卷？都不合適。

你能做的，很大概率只能在大模型輸出的內(nèi)容中加上一些違禁詞，亦或是多一道最終審核的步驟。

然而無論怎么做，都注定是一個增加成本的操作，時間成本、人力成本、經(jīng)濟(jì)成本都有可能增加，但這卻不是不去做的原因。

當(dāng)然了，這也并不是開發(fā)者單獨(dú)一方的責(zé)任，面對AI技術(shù)所將面臨的挑戰(zhàn)，我們需要共同努力，去建立尺度更合適的技術(shù)使用規(guī)范和倫理框架。

開發(fā)者要做的，是確保技術(shù)向善，避免技術(shù)被濫用；而用戶也應(yīng)提高辨別能力，并合法合規(guī)地使用AI。

總的來說，在AI時代，科技與倫理的平衡至關(guān)重要。

AI技術(shù)的發(fā)展，應(yīng)當(dāng)伴隨著對倫理和法律的深刻思考。

只有通過全社會的共同努力，才能確保這把雙刃劍為人類社會帶來更多的福祉而非傷害。