騰訊吳運聲：騰訊云MaaS升級，深耕產業(yè)推進“效能革命”

9月8日消息，2023騰訊全球數字生態(tài)大會日前于深圳成功舉辦。會上，騰訊云副總裁、騰訊云智能負責人、優(yōu)圖實驗室負責人吳運聲發(fā)表主題演講，重點分享了騰訊云行業(yè)大模型的最新能力升級、落地實踐。

他提到，隨著大模型逐步走出“嘗鮮期”的探索階段，產業(yè)實踐已成為衡量這些模型價值的重要標準?！爸悄芑暮蟀雸?，騰訊云智能在堅持投入AI技術研發(fā)的同時，一直專注于產業(yè)實踐，強調技術的務實可行和產品的安全可靠。”

基于此，過去這段時間以來，騰訊云MaaS能力不斷升級，希望能夠助力客戶更快、更經濟地應用大模型，以抓住AI大模型時代的發(fā)展機遇。

（圖源騰訊全球數字生態(tài)大會公眾號）

吳運聲認為，AI大模型的應用正逐步滲透到千行百業(yè)的各個環(huán)節(jié)，包括設計、研發(fā)、生產、營銷和服務等。從對話式客服到營銷內容生成，再到跨模態(tài)檢索和風險控制，大模型的應用正在展現出更強的能力、更高的效率、更廣泛的應用場景和更深的潛力。一場由“大模型”驅動的“效能革命”正在悄然發(fā)生。

在此背景下，騰訊云從產業(yè)客戶實際需求出發(fā)，基于自研的騰訊混元大模型，同時支持業(yè)內主流的開源模型應用，從技術底座、平臺能力和智能應用三個維度不斷升級MaaS能力，助力客戶構建專屬大模型和智能應用，推動大模型在產業(yè)中的落地應用。

在大會現場，吳運聲也針對三大升級點進行了逐一詳解。技術底座升級使得騰訊云能夠為客戶提供更強大、多樣化的基礎模型;TI平臺工具鏈的升級，保證了訓練任務的高效穩(wěn)定運行，同時提供了任務管理、模型優(yōu)化和部署支持，使客戶能夠更輕松地實現模型的落地應用;通過智能應用的升級，騰訊云為客戶提供了多款即插即用的產品，這些產品將AI大模型技術與實際業(yè)務相結合，為客戶提供更高效、更自然、更智能的解決方案。

作為騰訊產業(yè)互聯網生態(tài)系統(tǒng)中的重要組成部分，騰訊云智能始終強調“云智一體”的重要性和必要性。致力于在技術研發(fā)和產業(yè)實踐之間取得平衡，不斷拓展AI在產業(yè)領域應用的“縱深度”。吳運聲表示，“未來，我們將持續(xù)打磨MaaS能力，攜手廣大客戶和合作伙伴，共同擁抱AI大模型時代的‘效能革命’?！?/p>

圖注：騰訊云副總裁、騰訊云智能負責人、優(yōu)圖實驗室負責人吳運聲

以下為演講全文:

大家下午好!

我是騰訊的吳運聲，今天我的分享主題是《騰訊云MaaS升級，深耕產業(yè)推進“效能革命”》。

剛剛大家也看到了湯道生與蒙牛盧總數智人互動。

接入AI大模型能力后，數智分身可以根據提問，實時生成答案，并匹配相應的表情和動作。這也是過去這段時間，我們的MaaS能力升級成果之一。

兩個多月前，我們正式發(fā)布了騰訊云行業(yè)大模型解決方案，致力于打造模型精選商店，為客戶提供一站式MaaS服務。我們認為，產業(yè)場景是大模型最佳練兵場，這一方向，也很快成為行業(yè)共識。

過去這段時間，我們也在持續(xù)迭代、升級MaaS能力，希望幫助更多的客戶，快速、低成本落地大模型，搶先抓住AI大模型時代的發(fā)展機遇。

當前，AI大模型的發(fā)展與應用，給整個云服務市場帶來了新的增量。大模型的應用，正在逐步貫穿到企業(yè)的設計、研發(fā)、生產、營銷、服務全流程，助力企業(yè)創(chuàng)新的同時，幫助員工提效，加速云智一體進程。

當前，國內大模型發(fā)展可謂是“百花齊放”，據不完全統(tǒng)計，參數在10億規(guī)模以上的大模型就超過70個;經過過去一段時間的發(fā)展，企業(yè)在大模型方向的探索已經度過了“嘗鮮期”，“產業(yè)落地”成為評估大模型價值的重要標準。在今天上午的生態(tài)大會上，騰訊也正式公布了自研混元通用大模型，為我們行業(yè)大模型服務提供堅實的底座能力。

尤其大模型在金融、零售、文旅、政務、出行等各個領域的深度應用，其“提質增效”的效果已逐步顯現，大模型的應用場景也涵蓋了對話類客服、營銷內容創(chuàng)造、跨模態(tài)檢索、風控等企業(yè)核心生產和經營環(huán)節(jié)，表現出更強的能力、更高的效率、更廣的場景、更深的應用。一場由“大模型”驅動的效能革命正在發(fā)生。

依托騰訊云多年深耕產業(yè)互聯網的經驗，我們從產業(yè)客戶需求場景出發(fā)，基于自研騰訊混元大模型，同時支持業(yè)內主流開源模型應用，從技術底座、平臺能力、智能應用三個維度持續(xù)升級MaaS能力，助力客戶構建專屬大模型及智能應用，加速模型產業(yè)落地。

我們打造的模型精選商店，為客戶提供了不同規(guī)模的模型。通過升級大模型訓練、精調工具鏈，可以幫助客戶更快、更低成本的打造專屬模型。同時，騰訊云有非常廣泛的PaaS、SaaS產品，這些是我們行業(yè)大模型非常好的試煉場。

通過技術底座的升級，我們可以為客戶提供能力更強、更多元的基底模型。

混元大模型，構筑了騰訊云MaaS堅實的底座。今天，混元也正式面向行業(yè)客戶開放，客戶可直接在騰訊云上通過前端交互和API調用體驗;也可以以混元作為基底模型，直接在公有云精調。

同時，騰訊云TI平臺也全面接入了Llama 2、Falcon、Dolly等主流開源模型，支持系列模型的直接部署調用、應用流程簡單。

客戶可根據需要，在 TI平臺上一鍵完成模型部署，測試這些開源模型的效果，實現模型選型。

客戶也可以通過TI平臺一鍵啟動精調任務，對這些開源大模型進行精調。騰訊云TI平臺提供的多機多卡、斷點續(xù)訓的能力，可以保障訓練任務穩(wěn)定高效地運行;訓練監(jiān)控能力，可實時監(jiān)測訓練指標和資源利用率情況;任務管理能力，可自動管理模型多次迭代的訓練任務，記錄每次訓練任務的超參快照，快速還原訓練現場。

通過平臺能力的升級，我們可以為客戶提供更完善的工具鏈。

升級后的TI平臺工具鏈，具備高性能的大模型精調與部署能力，覆蓋大模型開發(fā)、應用全生命周期。我們在大模型精調最核心的算力、存儲方面進行了大幅升級。比如，算力方面接入了騰訊云HCC高性能計算節(jié)點及星脈高性能計算網絡，提供3.2Tbps的網絡帶寬;存儲方面接入了Turbo-CFS分布式存儲，最大帶寬可達到100GiB/s，大幅提升了跨機器的多機多卡訓練性能。

在全新升級的TI平臺工具鏈加持下，客戶只需加入自己獨有的場景數據，進行精調訓練，就可快速嘗試多種大模型，并根據自身業(yè)務場景需求，在短時間內精調出專屬的模型方案。

在加速方面，全新升級的太極Angel大模型加速框架，通過異步調度優(yōu)化、顯存優(yōu)化、計算優(yōu)化等方式，相比行業(yè)常用方案性能提升30%以上。

通過智能應用升級，為客戶提供豐富的、即插即用的產品。

騰訊在AI技術領域有長期投入和積累。過去我們非常多的AI能力，都是率先在內部產品中應用，這是騰訊AI的內生動能。

今天，我們的大模型能力，也正在重塑騰訊云廣泛的PaaS、SaaS產品。這些探索實踐，也進一步驗證了我們MaaS能力的可用性、易用性。

圍繞客服場景，今年6月騰訊企點發(fā)布了全新一代智能客服，引入大模型能力，針對對話交互、人工輔助和知識構建三個層面進行提升。過去兩個月，我們進一步升級了管理端配置能力，提升知識構建效率，優(yōu)化C端用戶體驗。同時，我們積極與各行各業(yè)進行產業(yè)實踐，在文旅、政務、地產等領域落地標桿案例。

基于分析大模型，我們升級推出騰訊企點分析AI助手，覆蓋對話式分析，輔助數據配置，提取智能結論、一鍵生成報告四大場景。今年9月，企點分析AI助手正式向大客戶開放內測申請。未來，人人都能擁有專業(yè)數據分析能力，讓數據跑得更快，為業(yè)務一線提供決策支持。

此前，我們推出了數智人工廠。今天，在AI大模型技術的加持下，我們全新發(fā)布“通用口型”版小樣本數智人，無需訓練，上傳素材后，將小樣本數智人的生產周期，從原來的24小時縮短到只需要1個小時，大大提升了數智人的生產效率。在大模型技術的加持下，我們的數智人可以實現更高效、更自然、更智能的效果。

在內容創(chuàng)作領域，我們與閱文集團在文生圖、圖生圖的推理部署和加速中達成合作。

在文生圖、圖生圖場景中，面向C端用戶提供高QPS、低耗時的方案。而且模型本身推理部署成本高昂，推理吞吐和時延存在瓶頸。閱文基于騰訊云TI平臺搭載的Angel推理加速引擎，推理能力平均提升30%，在文生文領域，更是把成本降低到原來的四分之一。此外，TI平臺提供動態(tài)batch和自動服務調度機制，大幅提高了服務吞吐量。

作為數字化助手，我們將持續(xù)打磨MaaS能力，攜手廣大客戶、合作伙伴一起，共同擁抱AI大模型時代的這場“效能革命”。