百度沈抖宣布“云智一體”戰(zhàn)略內涵全面升級
10月17日消息,在百度世界2023上,百度集團執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖宣布,“云智一體”的戰(zhàn)略內涵全面升級為:云智一體,深入產業(yè),生態(tài)繁榮,AI普惠。沈抖表示,人工智能與云計算的深度結合是企業(yè)快速落地AI原生應用的關鍵,這也是百度智能云始終倡導和踐行的“云智一體”理念。目前,百度集團所有應用和服務全部基于”云智一體“技術架構運行在百度智能云上。
同時,面向企業(yè)落地大模型的五類需求,百度智能云基于千帆大模型平臺打造的“大模型超級工廠”分別給出了最佳服務方案。
圖注:百度集團執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖
(圖源鞭牛士)
首先,針對只有算力需求的客戶,千帆平臺可以提供極致高效和性價比的異構算力服務。在客戶最關心的大模型訓練環(huán)節(jié),通過分布式并行訓練策略和微秒級互聯(lián)能力,千帆平臺可以實現萬卡規(guī)模集群訓練的加速比達到95%;通過事先防范、事中及時發(fā)現、定位、解決,最大限度避免集群因故障等原因產生的無效運轉,提高有效訓練時間占比,萬卡集群有效訓練時間占比達到96%,充分釋放集群有效算力,大幅降低客戶算力與時間成本。
此外,千帆平臺還兼容昆侖芯、昇騰、海光DCU、英偉達、英特爾等國內外主流AI芯片,支持客戶以最小的切換成本完成算力適配。
面壁智能攜手知乎,基于百度智能云提供的AI算力集群,訓練出“知海圖AI”大模型和多模態(tài)大模型Luca,在千卡集群上的有效訓練時間占比高達99%,在保障模型訓練連續(xù)性的同時,可以實現模型訓練效果的高效收斂。此外,知乎、好未來、地平線等企業(yè)也正在基于百度智能云提供的AI算力服務,以更加穩(wěn)定、高效和經濟的方式實現大規(guī)模集群的訓練和管理。
圖注:大模型時代的云智一體
(圖源鞭牛士)
其次,在模型層面,對于希望直接調用已有大模型的客戶,千帆平臺納管了42個國內外主流大模型,企業(yè)客戶可以快速調用包括文心大模型在內的各種大模型的API,獲取大模型能力。對于第三方大模型,千帆平臺還針對性地進行了中文增強、性能增強、上下文增強等優(yōu)化。目前千帆平臺已經服務了超過17000家客戶,大模型API調用量持續(xù)高速攀升。
第三,對于希望基于現有大模型進行二次開發(fā)的客戶,千帆平臺為大模型的再訓練、微調、評估和部署等環(huán)節(jié)提供全生命周期工具鏈、業(yè)界最多的41個高質量行業(yè)數據集,幫助客戶針對自身業(yè)務場景快速優(yōu)化模型效果。目前,包括中國郵政儲蓄銀行、度小滿、金山辦公、河北高速集團在內的諸多行業(yè)頭部客戶,都正在通過千帆平臺提供的工具鏈服務開發(fā)出貼合業(yè)務需求的專屬大模型。
第四,在應用層面,一部分企業(yè)需要基于大模型服務去開發(fā)AI原生應用,千帆平臺上提供的一系列能力組件與框架,可以幫助企業(yè)快速完成應用開發(fā),靈活地響應用戶與市場需求。
最后,另一部分客戶則希望直接、方便地選購成熟的AI原生應用產品,賦能業(yè)務發(fā)展。
(圖源百度世界2023直播截圖)
為了滿足企業(yè)敏捷、高效地進行AI原生應用開發(fā)的需求,降低AI原生應用開發(fā)門檻,百度智能云重磅發(fā)布“千帆AI原生應用開發(fā)工作臺”,將開發(fā)大模型應用的常見模式、工具、流程,沉淀成一個工作臺,幫助開發(fā)者聚焦在自身業(yè)務,而無需為開發(fā)過程牽扯多余精力。具體來講,千帆AI原生應用開發(fā)工作臺主要由應用組件、應用框架兩層服務構成。
應用組件服務由AI和基礎云兩大類組件構成,是對底層服務能力的組件化封裝,讓每個組件完成一個特定的功能?!癆I組件”中既包含諸如問答、思維鏈(CoT,Chain of Thought)等大語言模型組件,還包括文生圖、語音識別等多模態(tài)組件,而“基礎云組件”則包含向量數據庫、對象存儲等傳統(tǒng)云服務能力。
應用框架則是通過將上述這些組件有選擇地串聯(lián)、組合起來,讓它們能夠比較完整地完成一個特定場景的任務。目前,千帆平臺上提供的檢索增強生成(RAG)、智能體(Agent)就是常用的AI原生應用框架。在每個框架下,百度智能云還提供豐富的樣板間,支撐開發(fā)者敏捷、高效地進行AI原生應用開發(fā)。
圖注:百度智能云重磅發(fā)布AI原生應用開發(fā)工作臺
(圖源鞭牛士,下同)
檢索增強生成(RAG,Retrieval Augmented Generation)框架,可以更高效的利用企業(yè)專有領域內的知識,并在大模型的幫助下根據相關問題做出精確回答,是專業(yè)知識問答類AI原生應用的必備核心能力。
大會現場還進行了如何基于RAG框架,為三一重工快速開發(fā)知識問答應用的實操演示:只需在千帆AI原生應用工作臺中選擇預置的RAG框架,進行相應的參數配置等工作,就可以快速實現三一重工官網智能客服應用的開發(fā)與上線。沈抖表示,搭建這樣一個“小助手”,即使需要處理幾千篇萬字長文檔,成本也只需幾百塊錢;而之后用戶每次咨詢,成本僅需幾分錢。
圖注:基于RAG應用框架快速完成三一重工知識問答應用開發(fā)
智能體(Agent)作為當前業(yè)界流行的應用框架,可以對人類給定的任務進行自動拆解,自動規(guī)劃并調用各種組件協(xié)同完成任務,同時根據任務完成效果得到反饋,改進自身能力。目前,Agent框架已經在工業(yè)、交通等領域得到了廣泛應用。
中天鋼鐵基于千帆AI原生應用開發(fā)工作臺提供的Agent框架打造了智能化的“企業(yè)調度中樞”,實現了任務指令的自動感知、分解與執(zhí)行。比如,在發(fā)現鋼鐵產量不達標時,用戶只需提問一次,大模型就可以自動調用平臺納管的各種資源和API,完成BI取數、第三方根因分析等工作,找到未達標原因,及時調整排產計劃并發(fā)送郵件通知調度人員。
圖注:中天鋼鐵基于Agent應用框架打造企業(yè)調度中樞
為了滿足企業(yè)客戶便捷選購優(yōu)質AI原生應用的需求,賦能伙伴商業(yè)成功,百度智能云重磅推出:國內首家面向企業(yè)客戶進行一站式交易的AI原生應用商店——百度智能云千帆AI原生應用商店,旨在為大模型時代AI原生應用的供需雙方建立起便捷、可靠的聯(lián)接通路,大幅提升客戶應用選型與采購效率,為伙伴商家創(chuàng)造更多商機。目前,企業(yè)用戶可以通過百度智能云官網,進入千帆AI原生應用商店,選購心儀的AI原生應用。
圖注:百度智能云千帆AI原生應用商店
本屆世界大會,百度發(fā)布了國內首個生成式商業(yè)智能產品——百度GBI(Generative Business Intelligence)。BI(商業(yè)智能)是當下展現大模型能力“天花板”的典型應用場景之一。百度GBI作為AI原生應用引擎,基于文心大模型實現了“智能問數”能力的全面重構:面向任意數據庫,都可以通過對話一步完成查詢與分析,相比傳統(tǒng)BI大幅提升了數據分析的效率,降低了數據分析專業(yè)能力要求。
以企業(yè)經營數據分析為例,百度GBI可以把商業(yè)數據分析師十幾天才能完成的數據分析、撰寫報告的工作時長,從以天為單位縮短到以分鐘為單位。而作為一類AI原生應用框架產品,百度GBI還可以實現極簡的跨行業(yè)、跨領域能力遷移,快速落地如城市治理分析、能源消費洞察、工業(yè)設備運行管理、金融投資決策、交通擁堵治理等場景中,高效實現政企BI類AI原生應用的開發(fā)構建。
圖注:百度GBI功能展示
金蝶作為首批入駐千帆AI原生應用商店的伙伴,聯(lián)合百度智能云于2023年8月8日重磅發(fā)布了金蝶云·蒼穹GPT,并率先推出業(yè)界首個財務大模型,助力客戶更加高效地進行財務管理與分析,提高財務處理的準確性和規(guī)范性,為企業(yè)的長期穩(wěn)定發(fā)展提供強有力的保障。
大模型技術不僅正在重塑云計算的服務模式和產品形態(tài),也正在重塑云計算產業(yè)的生態(tài)格局,對云計算廠商和其覆蓋千行百業(yè)的合作伙伴的能力與體系建設提出了全新要求。
為了助力合作伙伴們取得大模型時代的商業(yè)成功,百度智能云建設并推出了國內首個大模型全鏈路生態(tài)支持體系,并為10家綜合伙伴、100家應用伙伴、1萬家以上的初創(chuàng)企業(yè)以及代理伙伴,提供包括千帆社區(qū)、AI原生應用孵化、銷售商機、市場營銷、賦能培訓,以及千帆AI原生應用商店等全方位的支持。
百度集團副總裁袁佛玉表示,“在這個瞬息萬變的時代,百度不僅要在大模型技術和商業(yè)化探索的道路上勇闖無人區(qū),還要與眾多合作伙伴共同打造繁榮的產業(yè)生態(tài),共同探索新的商業(yè)模式和商業(yè)機會,實現真正的合作共贏?!?/p>
2、電商號平臺僅提供信息存儲服務,如發(fā)現文章、圖片等侵權行為,侵權責任由作者本人承擔。
3、如對本稿件有異議或投訴,請聯(lián)系:info@dsb.cn
