谷歌CEO皮查伊深度討論人工智能時(shí)代

12月8日消息，谷歌在近日發(fā)布了其最新一代的人工智能模型Gemini。這個(gè)新模型體現(xiàn)了谷歌首席執(zhí)行官桑達(dá)爾·皮查伊（Sundar Pichai）多年努力的成果。在Gemini發(fā)布前夕，《麻省理工學(xué)院技術(shù)評(píng)論》雜志在谷歌位于加州山景城的辦公室采訪到了皮查伊，與他討論了Gemini對(duì)谷歌、其產(chǎn)品、人工智能以及整個(gè)社會(huì)的深遠(yuǎn)影響。

關(guān)于Gemini，皮查伊指出，谷歌花費(fèi)更多時(shí)間研發(fā)Gemini Ultra的部分原因是為了確保谷歌對(duì)其進(jìn)行了嚴(yán)格的安全測(cè)試。同時(shí)，谷歌也在對(duì)其進(jìn)行微調(diào)，以充分發(fā)揮其潛能。他透露，更先進(jìn)的Gemini將于明年推出。

圖源：Google DeepMind官網(wǎng)首頁

對(duì)于AI時(shí)代影響就業(yè)問題，皮查伊認(rèn)為，應(yīng)該以負(fù)責(zé)任的態(tài)度來部署這些技術(shù)，同時(shí)思考如何減輕其可能帶來的負(fù)面影響。新的工作類型將會(huì)隨著技術(shù)的發(fā)展而出現(xiàn)，人們將有機(jī)會(huì)從重復(fù)性的工作中解脫出來，有更多的時(shí)間和空間去進(jìn)行深入思考和創(chuàng)造性表達(dá)。他表示 ，作為一個(gè)社會(huì)，我們需要思考如何對(duì)這些受到影響的人們進(jìn)行再培訓(xùn)，幫助他們找到新的工作機(jī)會(huì)。

皮查伊承認(rèn)，人工智能確實(shí)具有兩面性。他指出，企業(yè)需要大膽地向前邁進(jìn)，同時(shí)也需要社會(huì)制定出相應(yīng)的框架來應(yīng)對(duì)可能出現(xiàn)的問題，如深度造假、工作崗位被取代等?！斑@將是我們未來十年需要努力解決的最大問題之一?！?/p>

谷歌CEO桑達(dá)爾·皮查伊（Sundar Pichai） 圖源：Google DeepMind官網(wǎng)

以下為專訪全文：

問：Gemini為何如此引人注目？能否分享一下你對(duì)人工智能的整體看法？它的潛力、應(yīng)用以及其在谷歌所有產(chǎn)品中的發(fā)展前景？

皮查伊：Gemini之所以令人矚目，其中一個(gè)重要原因是它從根本上就是一個(gè)多模態(tài)模型。就像人一樣，它不僅從文本中學(xué)習(xí)，還能通過視頻、音頻和代碼進(jìn)行學(xué)習(xí)。因此，這個(gè)模型天生就具備了更強(qiáng)大的能力，我相信這將推動(dòng)我們開發(fā)出更多新功能，并推動(dòng)該領(lǐng)域的進(jìn)步。這確實(shí)令人振奮。

另一個(gè)令人感到興奮的原因在于，在32個(gè)主要基準(zhǔn)測(cè)試中，Gemini在30個(gè)中都是最佳表現(xiàn)，尤其是在多模態(tài)基準(zhǔn)測(cè)試中。在MMLU（大規(guī)模多任務(wù)語言理解）測(cè)試中，它更是取得了巨大的進(jìn)步。我個(gè)人認(rèn)為，作為領(lǐng)先基準(zhǔn)之一的MMLU，Gemini跨越了90%的門檻，這是一個(gè)意義重大的里程碑?；叵雰赡昵?，當(dāng)時(shí)的水平只有30%，然后是40%。這充分展示了該領(lǐng)域所取得的巨大進(jìn)步。在57項(xiàng)測(cè)試中，Gemini的表現(xiàn)有89%與人類專家相當(dāng)。這是第一個(gè)達(dá)到這一標(biāo)準(zhǔn)的模型。

我本人也感到很激動(dòng)，因?yàn)镚emini終于要應(yīng)用于我們的產(chǎn)品中了。它將向開發(fā)者開放。人工智能是一個(gè)深刻的平臺(tái)變革，比網(wǎng)絡(luò)或移動(dòng)變革還要深遠(yuǎn)。因此，這對(duì)我們來說代表著邁出了重要的一步。

問：讓我們來談?wù)勥@些基準(zhǔn)測(cè)試。雖然Gemini似乎在幾乎所有測(cè)試中都領(lǐng)先于GPT-4，但領(lǐng)先優(yōu)勢(shì)并不明顯。而GPT-4本身就是一個(gè)巨大的飛躍。我們是否開始觸及這些大語言模型技術(shù)的極限，或者你認(rèn)為仍然存在巨大的提升空間？

皮查伊：首先，展望未來，我們確實(shí)看到了巨大的提升空間。有些基準(zhǔn)已經(jīng)很高了。但我們必須意識(shí)到，當(dāng)你試圖從85%開始突破時(shí)，你已經(jīng)處于曲線的末端。雖然看起來進(jìn)展不大，但確實(shí)意味著我們?nèi)栽谌〉眠M(jìn)展。我們還需要開發(fā)新的基準(zhǔn)測(cè)試，這也是我們研究MMLU多模態(tài)基準(zhǔn)的部分原因。對(duì)于其中一些新的基準(zhǔn)，目前的技術(shù)水平仍然很低，未來還有很大的提升空間。比例定律依然有效：隨著模型的擴(kuò)大，我們會(huì)看到更多的進(jìn)展。從整體來看，我真的覺得我們才剛剛開始探索人工智能的潛力。

問：在你看來，Gemini的關(guān)鍵創(chuàng)新是什么？這些創(chuàng)新將如何被實(shí)際應(yīng)用？

皮查伊：人們可能難以想象即將到來的種種突破。我們正在提供應(yīng)用程序開發(fā)接口（API），使人們能夠以前所未有的方式體驗(yàn)它。我相信多模態(tài)基準(zhǔn)將取得巨大的進(jìn)展。隨著我們教會(huì)這些模型進(jìn)行更多的推理，將會(huì)出現(xiàn)越來越大的突破，而且更深遠(yuǎn)的突破還在后頭。

以Gemini Pro為例，它在基準(zhǔn)測(cè)試中的表現(xiàn)非常出色。但當(dāng)我們將其集成到Bard中時(shí)，我可以親身感受到它的優(yōu)勢(shì)。我們一直在對(duì)它進(jìn)行測(cè)試，所有類別任務(wù)的好評(píng)率都有顯著的提升。因此，我們將其稱為迄今為止最大的升級(jí)之一。當(dāng)我們進(jìn)行并行評(píng)估時(shí)，它的表現(xiàn)確實(shí)令人印象深刻。因此，這些更好的模型在基準(zhǔn)上不斷改進(jìn)，取得了顯著的進(jìn)步。我們將繼續(xù)訓(xùn)練和學(xué)習(xí)。

然而，我迫不及待地想將Gemini應(yīng)用于我們的產(chǎn)品中。這些模型具有強(qiáng)大的能力。在接下來的幾個(gè)月里，設(shè)計(jì)出能夠充分利用這些模型優(yōu)勢(shì)的產(chǎn)品體驗(yàn)將是令人興奮的挑戰(zhàn)。

問：雖然Gemini在各個(gè)方面都略微領(lǐng)先于GPT-4，但你認(rèn)為從GPT-4的發(fā)布中學(xué)到了什么？在這段時(shí)間里，有哪些方法發(fā)生了變化？

皮查伊：至少在我看來，這并不是一個(gè)零和游戲。想想看，向人工智能的轉(zhuǎn)變是多么深刻，我們還處于早期階段，前方充滿了無限的機(jī)會(huì)。

關(guān)于你的具體問題，這是一個(gè)我們都在快速進(jìn)步的領(lǐng)域。我們發(fā)表了很多文章，研究像GPT-4這樣的模型在現(xiàn)實(shí)世界中是如何工作的。我們從中學(xué)到了很多經(jīng)驗(yàn)教訓(xùn)。安全是一個(gè)重要的領(lǐng)域。因此，在Gemini項(xiàng)目中，我們已經(jīng)學(xué)習(xí)并改進(jìn)了一些安全技術(shù)，這些技術(shù)是基于模型在現(xiàn)實(shí)世界中的運(yùn)作方式而改進(jìn)的。它表明了微調(diào)等各種技術(shù)的重要性。我們?cè)贛ed-PaLM 2中展示的一個(gè)例子是，采用一個(gè)像PaLM這樣的模型，并對(duì)其進(jìn)行微調(diào)以適應(yīng)特定的領(lǐng)域，結(jié)果表明它可以勝過最先進(jìn)的模型。這就是我們學(xué)習(xí)到微調(diào)的方式之一。

當(dāng)我們研發(fā)Gemini時(shí)，很多這樣的經(jīng)驗(yàn)都被應(yīng)用到了其中。我們花費(fèi)更多時(shí)間研發(fā)Gemini Ultra（更先進(jìn)的Gemini將于明年推出）的部分原因是為了確保我們對(duì)其進(jìn)行了嚴(yán)格的安全測(cè)試。同時(shí)，我們也在對(duì)其進(jìn)行微調(diào)，以充分發(fā)揮其潛能。

問：當(dāng)這些模型在現(xiàn)實(shí)世界中應(yīng)用時(shí)，有時(shí)候會(huì)出現(xiàn)產(chǎn)生幻覺或泄露訓(xùn)練數(shù)據(jù)中私人信息的情況?？紤]到模型所使用的數(shù)據(jù)，如果這是不可避免的，那么這在技術(shù)中有多少是固有的？如果無法避免，你們會(huì)采取哪些措施來限制這種情況的發(fā)生？

皮查伊：你提出的問題非常關(guān)鍵。事實(shí)上，我們最近發(fā)表了一篇論文，揭示了這些模型如何通過一系列提示泄露訓(xùn)練數(shù)據(jù)。雖然目前還沒有解決幻覺問題的方案，但我認(rèn)為我們都在朝著這個(gè)方向努力，只是還需要做更多的工作。我們需要克服一些基本的限制。舉個(gè)例子，如果我們使用Gemini Ultra，我們正在積極與外部第三方合作，他們是這些領(lǐng)域的專家。

在多模態(tài)等方面，我們希望能夠更大膽、更負(fù)責(zé)任。在推出多模態(tài)模型時(shí)，我們會(huì)更加謹(jǐn)慎，因?yàn)殄e(cuò)誤用例的可能性更高。但是，你指出的問題仍然是開發(fā)中技術(shù)所面臨的挑戰(zhàn)，它們并不適用于所有情況。在搜索中，我們會(huì)更加仔細(xì)地考慮如何使用它、何時(shí)使用、在哪里使用以及何時(shí)觸發(fā)。這些模型具有驚人的能力，但也存在明顯的缺陷。這是我們所有人都需要解決的艱巨挑戰(zhàn)。

然而，未來的人工智能系統(tǒng)可能與我們今天所擁有的系統(tǒng)截然不同，就像有人曾認(rèn)為計(jì)算機(jī)無法裝進(jìn)口袋一樣。同樣地，對(duì)于這些系統(tǒng)，如果有人說無法設(shè)計(jì)出更好的系統(tǒng)，我并不同意這種觀點(diǎn)。目前正在進(jìn)行許多研究探索，思考如何解決這些問題。

問：你認(rèn)為人工智能將帶來深刻的變革。然而，在最近的一些轉(zhuǎn)變中，比如向移動(dòng)設(shè)備的轉(zhuǎn)變，生產(chǎn)率的提高并不一定是必然的，甚至在很長(zhǎng)一段時(shí)間內(nèi)都保持不變。有觀點(diǎn)認(rèn)為，這甚至可能加劇了收入不平等。谷歌正在開展哪些工作來確保這種轉(zhuǎn)變對(duì)社會(huì)更有益？

皮查伊：這是一個(gè)非常重要的問題。我從幾個(gè)角度思考這個(gè)問題。在谷歌，我們一直關(guān)注的一件事是：如何讓技術(shù)盡可能廣泛地使用？即使在移動(dòng)領(lǐng)域，我們利用安卓操作系統(tǒng)做了很多工作，但仍有數(shù)億人無法使用手機(jī)。我們正在努力推出一款價(jià)格合理的智能手機(jī)，價(jià)格可能低于50美元。因此，讓人工智能對(duì)每個(gè)人都有所幫助是我考慮的重點(diǎn)之一。我們嘗試讓盡可能多的人接觸到這些技術(shù)。

同時(shí)，我們正在深入思考如何將人工智能應(yīng)用于對(duì)人們有益的用例中。以洪水預(yù)報(bào)為例，我們?cè)缙谕度朐擃I(lǐng)域的原因是我們意識(shí)到可以探測(cè)到模式并做得很好。我們也將人工智能用于翻譯1000種語言。我們現(xiàn)在確實(shí)在嘗試用不同的語言提供內(nèi)容，否則你將無法訪問這些內(nèi)容。

這并不能解決你提到的所有問題。但我們要慎重考慮在何時(shí)何地專注于解決什么樣的問題。以AlphaFold等領(lǐng)域?yàn)槔?，我們?yōu)槭澜绺鞯氐牟《咎峁┝艘粋€(gè)開放的數(shù)據(jù)庫。但是，誰會(huì)最先使用它？人工智能不會(huì)神奇地讓某些更困難的問題變得更好，比如不平等問題或者它可能會(huì)加劇這種情況？

重要的是確保每個(gè)人都能使用技術(shù)。在早期開發(fā)階段就讓人們接觸到技術(shù)并參與到對(duì)話中，這樣社會(huì)就可以幫助測(cè)試技術(shù)并適應(yīng)它。在這方面我們肯定比其他公司更早地參與其中。最近我們參加了英國人工智能安全論壇，并與美國國會(huì)和政府合作，我們正在嘗試建立更多的公私合作伙伴關(guān)系，以更早地吸引非營(yíng)利機(jī)構(gòu)和學(xué)術(shù)機(jī)構(gòu)參與進(jìn)來。至于對(duì)就業(yè)等領(lǐng)域的影響，還需要深入研究，但我確實(shí)認(rèn)為會(huì)帶來驚喜。

我可以舉很多例子來說明手機(jī)帶來的好處，我認(rèn)為人工智能技術(shù)也是如此。我們已經(jīng)在糖尿病視網(wǎng)膜病變等領(lǐng)域展示了這一點(diǎn)，畢竟世界上許多地方?jīng)]有足夠的醫(yī)生來檢測(cè)這種疾病。就像我覺得讓世界各地的人們都能使用谷歌搜索一樣，我認(rèn)為這是擴(kuò)大人工智能使用范圍的一種方式。

問：有些技術(shù)，如編程，明顯提高了效率，但其普及也對(duì)就業(yè)市場(chǎng)構(gòu)成了威脅。你如何看待這個(gè)問題？

皮查伊：技術(shù)的確在推動(dòng)效率提升，但我們也不能忽視它對(duì)就業(yè)的潛在影響。然而，問題的答案并非非黑即白。以面部識(shí)別技術(shù)為例，盡管我們公司沒有提供相關(guān)的API，但其他公司已經(jīng)開發(fā)出了這樣的技術(shù)。技術(shù)發(fā)展的腳步并不會(huì)因?yàn)槟骋患夜镜臎Q策而停止。這是一個(gè)比單一公司決策更為復(fù)雜的社會(huì)問題。如果我們不采用這些新技術(shù)，可能會(huì)影響到我們的經(jīng)濟(jì)競(jìng)爭(zhēng)力，甚至可能導(dǎo)致更多的工作崗位流失。

我認(rèn)為，我們應(yīng)該以負(fù)責(zé)任的態(tài)度來部署這些技術(shù)，同時(shí)思考如何減輕其可能帶來的負(fù)面影響。新的工作類型將會(huì)隨著技術(shù)的發(fā)展而出現(xiàn)，人們將有機(jī)會(huì)從重復(fù)性的工作中解脫出來，有更多的時(shí)間和空間去進(jìn)行深入思考和創(chuàng)造性表達(dá)。當(dāng)然，這也會(huì)使得某些工作崗位變得不再必要。作為一個(gè)社會(huì)，我們需要思考如何對(duì)這些受到影響的人們進(jìn)行再培訓(xùn)，幫助他們找到新的工作機(jī)會(huì)。

問：對(duì)于人工智能的發(fā)展，人們的看法出現(xiàn)了分歧。有的人支持安全第一，有的人則認(rèn)為商業(yè)用例應(yīng)該優(yōu)先。有人支持加速開發(fā)，也有人擔(dān)心出現(xiàn)世界末日。你如何看待這種分歧？

皮查伊：我是一個(gè)技術(shù)樂觀主義者，我相信人類可以利用技術(shù)來造福社會(huì)。人工智能確實(shí)具有兩面性，但我們不能因?yàn)榭謶侄Ｖ骨斑M(jìn)的腳步。我們需要大膽地向前邁進(jìn)，同時(shí)也需要社會(huì)制定出相應(yīng)的框架來應(yīng)對(duì)可能出現(xiàn)的問題，如深度造假、工作崗位被取代等。這將是我們未來十年需要努力解決的最大問題之一。

問：圍繞人工智能的法律法規(guī)也是一個(gè)懸而未決的問題。例如，有關(guān)于合理使用、版權(quán)保護(hù)等問題。對(duì)于知識(shí)產(chǎn)權(quán)來說，這似乎將是一件大事。你如何確保那些使用你產(chǎn)品的人有種安全感，不必?fù)?dān)心為自己所做的事情而被起訴？

皮查伊：并不是所有的問題都有簡(jiǎn)單的答案。在人工智能之前，我們?cè)陂_發(fā)搜索、YouTube等產(chǎn)品時(shí)，就一直在努力實(shí)現(xiàn)正確的價(jià)值交換。人工智能也是如此。我們將專注于確保我們的訓(xùn)練數(shù)據(jù)符合法律規(guī)定，同時(shí)讓人們有機(jī)會(huì)選擇退出。還有一個(gè)層面是關(guān)于什么是合理使用。為原創(chuàng)內(nèi)容的創(chuàng)造者創(chuàng)造價(jià)值是很重要的。

隨著時(shí)間的推移，會(huì)有新的法律框架出現(xiàn)。我們將努力遵守法律，并與內(nèi)容提供商保持良好的關(guān)系。這是一個(gè)充滿爭(zhēng)議的領(lǐng)域，但我們正在努力尋找解決方案。我們必須創(chuàng)建一個(gè)雙贏的生態(tài)系統(tǒng)，讓所有這些元素都能長(zhǎng)期共存并發(fā)揮作用。

問：如今，許多人對(duì)網(wǎng)絡(luò)未來的擔(dān)憂集中在搜索領(lǐng)域。當(dāng)有一種技術(shù)能夠根據(jù)網(wǎng)絡(luò)信息為你提供答案時(shí)，有人擔(dān)心人們可能不再需要訪問這些網(wǎng)站了。這對(duì)谷歌會(huì)有影響嗎？你是否在考慮自己的業(yè)務(wù)？

皮查伊：在搜索領(lǐng)域，谷歌的獨(dú)特價(jià)值在于幫助用戶發(fā)現(xiàn)和學(xué)習(xí)新事物，并找到答案，同時(shí)始終注重分享網(wǎng)絡(luò)上豐富多樣的觀點(diǎn)。這也是我們產(chǎn)品開發(fā)的重要原則之一。我們相信人們?cè)谒阉鲿r(shí)并不僅僅想要一個(gè)簡(jiǎn)單的答案，而是希望通過探索和學(xué)習(xí)，深入了解更多信息。因此，我們一直致力于提供高質(zhì)量的搜索結(jié)果，并確保我們所做的事情是正確的。在這個(gè)過程中，保持平衡至關(guān)重要。

當(dāng)然，我們也需要考慮商業(yè)價(jià)值。從臺(tái)式機(jī)到移動(dòng)設(shè)備，我們一直在面對(duì)類似的問題。但是，通過深入了解用戶需求和對(duì)高質(zhì)量廣告的反應(yīng)，我們對(duì)未來充滿信心。以YouTube為例，我們已經(jīng)推出了訂閱模式，并且取得了很好的效果。

問：隨著這些產(chǎn)品逐漸進(jìn)入市場(chǎng)并開始與用戶互動(dòng)，你認(rèn)為明年人們的體驗(yàn)會(huì)發(fā)生怎樣的變化？

皮查伊：我認(rèn)為，從現(xiàn)在開始的一年里，使用Google Docs的人將會(huì)期待一些不同的體驗(yàn)。如果我們給他們提供了全新的功能，然后再讓他們回到2022年版本的Google Docs，他們會(huì)發(fā)現(xiàn)舊版本已經(jīng)過時(shí)了。這就像我的孩子們一樣，如果他們使用的Google Docs沒有拼寫檢查功能，他們就會(huì)認(rèn)為出了問題。與此同時(shí)，與其他公司相比，我們?cè)谒阉髦腥谌肓烁嗟娜斯ぶ悄芗夹g(shù)，使得自動(dòng)功能成為許多產(chǎn)品中理所當(dāng)然的存在。這也是我們多年來學(xué)到的一個(gè)重要經(jīng)驗(yàn)：讓用戶相信這些功能的存在是理所當(dāng)然的。

隨著我們開發(fā)多模態(tài)能力，人們將能夠以一種以前無法做到的方式完成更復(fù)雜的任務(wù)。這將帶來真正的用例和更強(qiáng)大的功能。總的來說，我們將繼續(xù)努力改進(jìn)我們的產(chǎn)品和服務(wù)，以滿足用戶的需求和期望。