百度王海峰:知識(shí)增強(qiáng)大語(yǔ)言模型具備人工智能四項(xiàng)基礎(chǔ)能力
9月26日消息,由科學(xué)技術(shù)部、中國(guó)工程院、清華大學(xué)共同發(fā)起主辦的長(zhǎng)城工程科技會(huì)議“人工智能賦能高質(zhì)量發(fā)展”主題大會(huì)于9月21日在清華大學(xué)召開。百度首席技術(shù)官、深度學(xué)習(xí)技術(shù)及應(yīng)用國(guó)家工程研究中心主任王海峰以《人工智能技術(shù)生態(tài)與產(chǎn)業(yè)模式》為題作主旨報(bào)告。
會(huì)上,王海峰表示,人工智能具有多種典型能力,理解、生成、邏輯、記憶是其中的核心基礎(chǔ)能力,這四項(xiàng)能力越強(qiáng),越接近通用人工智能,而大語(yǔ)言模型具備了這四項(xiàng)能力,為發(fā)展通用人工智能帶來曙光。
早在2019年,王海峰就曾提出,深度學(xué)習(xí)具有很強(qiáng)的通用性,并具備標(biāo)準(zhǔn)化、自動(dòng)化和模塊化的工業(yè)大生產(chǎn)特征,推動(dòng)人工智能進(jìn)入工業(yè)大生產(chǎn)階段。四年來,深度學(xué)習(xí)技術(shù)和應(yīng)用的發(fā)展充分驗(yàn)證了這一觀點(diǎn)。深度學(xué)習(xí)技術(shù)的通用性越來越強(qiáng),深度學(xué)習(xí)平臺(tái)的標(biāo)準(zhǔn)化、自動(dòng)化和模塊化特征越來越顯著,而預(yù)訓(xùn)練大模型的興起,使得人工智能應(yīng)用的深度和廣度進(jìn)一步拓展,技術(shù)生態(tài)更加完善。人工智能已進(jìn)入工業(yè)大生產(chǎn)階段。
標(biāo)準(zhǔn)化方面,框架和模型聯(lián)合優(yōu)化,多硬件統(tǒng)一適配,應(yīng)用模式簡(jiǎn)潔高效,大幅降低人工智能應(yīng)用門檻;自動(dòng)化方面,從訓(xùn)練、適配,到推理部署,提升人工智能研發(fā)全流程效率;模塊化方面,豐富的產(chǎn)業(yè)級(jí)模型庫(kù),支撐人工智能在廣泛場(chǎng)景的便捷應(yīng)用。
圖注:百度首席技術(shù)官、深度學(xué)習(xí)技術(shù)及應(yīng)用國(guó)家工程研究中心主任王海峰
(圖源百度AI公眾號(hào),下同)
據(jù)了解,得益于飛槳產(chǎn)業(yè)級(jí)深度學(xué)習(xí)開源開放平臺(tái)和文心大模型的互相促進(jìn),貫通了深度學(xué)習(xí)全產(chǎn)業(yè)鏈,飛槳生態(tài)愈加繁榮,已凝聚800萬(wàn)開發(fā)者,服務(wù)22萬(wàn)家企事業(yè)單位,基于飛槳?jiǎng)?chuàng)建了80萬(wàn)個(gè)模型。伴隨大模型的發(fā)展,百度推出了星河大模型社區(qū),寓意“文心加飛槳,翩然赴星河”,與開發(fā)者共享共創(chuàng)大模型生態(tài)。
王海峰表示,人工智能具有多種典型能力,理解、生成、邏輯、記憶是其中的核心基礎(chǔ)能力,這四項(xiàng)能力越強(qiáng),越接近通用人工智能,而大語(yǔ)言模型具備了這四項(xiàng)能力,為發(fā)展通用人工智能帶來曙光。
具體而言,人工智能的典型能力如創(chuàng)作、編程、解題、規(guī)劃等都依賴于理解、生成、邏輯、記憶等核心基礎(chǔ)能力,依賴程度有所不同。以解題為例,從讀懂題目、解答題目到最后寫出答案,需要理解、記憶、邏輯及生成能力的綜合運(yùn)用。
效率方面,通過飛槳端到端自適應(yīng)混合并行訓(xùn)練技術(shù)以及壓縮、推理、服務(wù)部署的協(xié)同優(yōu)化,文心大模型訓(xùn)練速度達(dá)到原來的3倍,推理速度達(dá)到原來的30多倍。根據(jù)人民數(shù)據(jù)、新華網(wǎng)等多個(gè)公開測(cè)評(píng),文心大模型3.5支持下的文心一言綜合能力超過ChatGPT,遙遙領(lǐng)先于國(guó)內(nèi)其他大模型。IDC《AI大模型技術(shù)能力評(píng)估報(bào)告,2023》顯示,文心大模型3.5拿下12項(xiàng)指標(biāo)的7個(gè)滿分,得到“綜合評(píng)分第一,算法模型第一,行業(yè)覆蓋第一”三個(gè)絕對(duì)第一。
圖注:IDC《AI大模型技術(shù)能力評(píng)估報(bào)告,2023》:百度獲算法模型、行業(yè)覆蓋唯一滿分
應(yīng)用方面,通過數(shù)據(jù)驅(qū)動(dòng)、提示構(gòu)建,以及插件增強(qiáng)進(jìn)行場(chǎng)景適配,協(xié)同優(yōu)化。文心一言已上線百度搜索、覽卷文檔、E言易圖、說圖解畫、一鏡流影等原生插件,使模型具備生成實(shí)時(shí)準(zhǔn)確信息、長(zhǎng)文本摘要和問答、數(shù)據(jù)洞察和圖表制作、基于圖片的創(chuàng)作和問答、文生視頻等能力。插件機(jī)制擴(kuò)展了大模型能力邊界,更適應(yīng)場(chǎng)景需要。
數(shù)據(jù)顯示,文心一言在8月31日率先面向全社會(huì)開放服務(wù),首日回答了網(wǎng)友3342萬(wàn)個(gè)問題,細(xì)分應(yīng)用場(chǎng)景豐富,包括文案創(chuàng)意、教育咨詢、代碼生成等,目前已有15萬(wàn)企業(yè)和2萬(wàn)多插件開發(fā)者申請(qǐng)接入。
面對(duì)大模型產(chǎn)業(yè)化的挑戰(zhàn),王海峰表示,類似芯片代工廠,可以采用“集約化生產(chǎn),平臺(tái)化應(yīng)用”的模式,即具有算法、算力和數(shù)據(jù)綜合優(yōu)勢(shì)的企業(yè)將模型生產(chǎn)的復(fù)雜過程封裝起來,通過低門檻、高效率的生產(chǎn)平臺(tái),為千行百業(yè)提供大模型服務(wù)。這一產(chǎn)業(yè)化路徑已在文心大模型產(chǎn)業(yè)實(shí)踐中得到驗(yàn)證,百度與各行業(yè)頭部企業(yè)、機(jī)構(gòu)共建了包括能源、金融、航天、制造、傳媒、城市、社科以及影視等行業(yè)大模型。以文心一言等大語(yǔ)言模型為代表的人工智能正在深入千行百業(yè),加速產(chǎn)業(yè)升級(jí)和經(jīng)濟(jì)增長(zhǎng)。
2、電商號(hào)平臺(tái)僅提供信息存儲(chǔ)服務(wù),如發(fā)現(xiàn)文章、圖片等侵權(quán)行為,侵權(quán)責(zé)任由作者本人承擔(dān)。
3、如對(duì)本稿件有異議或投訴,請(qǐng)聯(lián)系:info@dsb.cn
