百度沈抖：千帆平臺納管的國內(nèi)外主流大模型達到42個

9月6日消息，2023百度云智大會上，百度智能云千帆大模型平臺宣布實現(xiàn)2.0全面升級，首次公布月活企業(yè)數(shù)已近萬家，覆蓋金融、制造、能源、政務、交通等行業(yè)的400多個業(yè)務場景。

據(jù)百度集團執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖介紹，升級后的百度智能云千帆平臺2.0擁有“四個最”：預置最多的大模型和數(shù)據(jù)集、有最豐富最全面的工具鏈、最佳算力效能、最完備的大模型安全方案。

（圖源百度智能云視頻號截圖，下同）

沈抖指出，相比過去，千帆平臺納管的國內(nèi)外主流大模型達到42個，還預置了41個高質(zhì)量有行業(yè)特色的數(shù)據(jù)集，預裝了知識問答、客服對話、代碼助手等10個精選應用范式，大幅降低企業(yè)使用、訓練和推理大模型的門檻。對于除文心大模型之外的第三方大模型，千帆平臺不只是簡單的接入，還提供中文增強、性能增強、上下文增強等能力。比如，原來要用英文對話效果才好的Llama2等國外大模型，現(xiàn)在用中文也一樣好。

沈抖表示，工具鏈變得更豐富和更全面，也更加輕量化、敏捷化。過去客戶驗證大模型的效果至少需要一周時間，現(xiàn)在基于一站式的工具鏈，只需一天就可以跑通一個模型并看到效果。值得關注的是，千帆平臺的工具鏈里內(nèi)置了103套高質(zhì)量的prompt模版，還有自動化prompt工程能力，用戶做起來會更方便、更輕松。

算力服務升級后，萬卡集群訓練大模型時，有效訓練時間達到95%以上，極大的降低了時間成本，加速比可以達到 95%，充分釋放集群的整體算力。千帆平臺還兼容國內(nèi)外主流芯片和操作系統(tǒng)，企業(yè)客戶的算法可以以最小的修改成本在這些硬件上運行。

值得一提的是，今年7月，沈抖曾在《大模型：產(chǎn)業(yè)智能化的新引擎》專題講座上表示，“大模型的出現(xiàn)，重新定義了人機交互。未來，人們只需要用自然語言提出需求，大模型就可以自己理解需求、再生成內(nèi)容、升級工具，最后提供服務。學術界、產(chǎn)業(yè)界都認為，第四次科技革命已經(jīng)到來?！?/p>

“所以我們預判，未來可能是少數(shù)幾家大廠做好基礎大模型，然后各個行業(yè)、企業(yè)可以在這個基礎上研發(fā)行業(yè)大模型、企業(yè)大模型甚至是地方政務的大模型。”沈抖說。百度是全球科技大廠中第一個推出大模型的科技公司，自3月16日宣布文心一言內(nèi)測以來，一周時間就有15萬企業(yè)申請測試，而且每家企業(yè)都有比較明顯的場景需求。百度為企業(yè)提供的大模型服務包括有文心千帆大模型服務平臺、 百度AI大底座等。

官方資料顯示，沈抖自2019年5月起擔任執(zhí)行副總裁。目前擔任百度人工智能云首席負責人，負責人工智能云的發(fā)展。于2012年加入百度，曾擔任多個管理職位，包括網(wǎng)絡搜索、展示廣告、金融服務集團和移動產(chǎn)品。在加入百度之前，曾在微軟的 adCenter團隊工作，并將他與他人共同創(chuàng)立的社交媒體監(jiān)控和分析平臺公司Buzzlabs賣給了IAC旗下的CityGrid Media。沈抖獲得華北電力大學工學學士學位、清華大學工學碩士學位、美國麻省理工學院博士學位。香港科技大學計算機科學博士。

圖注：百度集團執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖

（圖源百度官網(wǎng)）