亞馬遜AI語音新技術(shù)錄音合法性引人們擔憂

6月24日消息，當?shù)貢r間周三，亞馬遜AI語音數(shù)字助理Alexa可模仿任何聲音的人性化演示文稿在網(wǎng)絡上引起巨大反響，人們對于是否可能出現(xiàn)偽造聲音的情況表示擔憂，例如使用合法錄音來模仿人們說他們實際上沒有說過的話，來實施綁架詐騙或在公司重大決策中偽造音頻。

據(jù)悉，亞馬遜高級副總裁羅希特?普拉薩德（Rohit Prasad）周三透露其公司正在開發(fā)一種系統(tǒng)，可使AI語音數(shù)字助理Alexa在聽不到一分鐘音頻后模仿任何聲音。

該技術(shù)研發(fā)的消息公布時，人們只是簡單地想到其帶來的好處，Alexa的首席科學家Rohit Prasad也在周三的公司演示中充分展示了數(shù)字助理的人性化，演示了Alexa冒充一位祖母閱讀《綠野仙蹤》摘錄的畫面。

他表示，同理心和情感等人類特征是與人建立信任的關(guān)鍵，“在疫情持續(xù)的這段時間里，當我們失去了我們所愛的人時，這些屬性變得更加重要”，“雖然人工智能無法消除那種失落的痛苦，但絕對可以讓他們的記憶永存?！痹撗菔窘o人以將該技術(shù)作為一種數(shù)字化死者復活工具的印象。

不過，普拉薩德在隨后拉斯維加斯舉行的亞馬遜技術(shù)會議中表示，該服務的主要目的不是模擬死者的聲音。

隨著該演示在網(wǎng)絡上發(fā)酵討論，引發(fā)了巨大反響，與此同時出現(xiàn)了一些表示擔憂的聲音，即是否會使用合法的錄音來模仿人們說他們實際上沒有發(fā)聲的話。

據(jù)了解，布法羅大學計算機科學與工程教授Siwei Lyu的研究涉及深度偽造和數(shù)字媒體取證，他表示他對這一發(fā)展感到擔憂，“亞馬遜開發(fā)的語音轉(zhuǎn)換技術(shù)肯定有好處，但我們應該意識到潛在的誤用，例如綁匪可以在電話中偽裝成家人或朋友來引誘不知情的受害者，或者高層管理人員在對公司財務狀況發(fā)表言論時偽造錄音，可能會使股市出現(xiàn)問題?！?/p>