騰訊吳運(yùn)聲：騰訊云MaaS升級(jí)，深耕產(chǎn)業(yè)推進(jìn)“效能革命”

9月8日消息，2023騰訊全球數(shù)字生態(tài)大會(huì)日前于深圳成功舉辦。會(huì)上，騰訊云副總裁、騰訊云智能負(fù)責(zé)人、優(yōu)圖實(shí)驗(yàn)室負(fù)責(zé)人吳運(yùn)聲發(fā)表主題演講，重點(diǎn)分享了騰訊云行業(yè)大模型的最新能力升級(jí)、落地實(shí)踐。

他提到，隨著大模型逐步走出“嘗鮮期”的探索階段，產(chǎn)業(yè)實(shí)踐已成為衡量這些模型價(jià)值的重要標(biāo)準(zhǔn)?！爸悄芑暮蟀雸?chǎng)，騰訊云智能在堅(jiān)持投入AI技術(shù)研發(fā)的同時(shí)，一直專注于產(chǎn)業(yè)實(shí)踐，強(qiáng)調(diào)技術(shù)的務(wù)實(shí)可行和產(chǎn)品的安全可靠?！?/p>

基于此，過(guò)去這段時(shí)間以來(lái)，騰訊云MaaS能力不斷升級(jí)，希望能夠助力客戶更快、更經(jīng)濟(jì)地應(yīng)用大模型，以抓住AI大模型時(shí)代的發(fā)展機(jī)遇。

（圖源騰訊全球數(shù)字生態(tài)大會(huì)公眾號(hào)）

吳運(yùn)聲認(rèn)為，AI大模型的應(yīng)用正逐步滲透到千行百業(yè)的各個(gè)環(huán)節(jié)，包括設(shè)計(jì)、研發(fā)、生產(chǎn)、營(yíng)銷和服務(wù)等。從對(duì)話式客服到營(yíng)銷內(nèi)容生成，再到跨模態(tài)檢索和風(fēng)險(xiǎn)控制，大模型的應(yīng)用正在展現(xiàn)出更強(qiáng)的能力、更高的效率、更廣泛的應(yīng)用場(chǎng)景和更深的潛力。一場(chǎng)由“大模型”驅(qū)動(dòng)的“效能革命”正在悄然發(fā)生。

在此背景下，騰訊云從產(chǎn)業(yè)客戶實(shí)際需求出發(fā)，基于自研的騰訊混元大模型，同時(shí)支持業(yè)內(nèi)主流的開(kāi)源模型應(yīng)用，從技術(shù)底座、平臺(tái)能力和智能應(yīng)用三個(gè)維度不斷升級(jí)MaaS能力，助力客戶構(gòu)建專屬大模型和智能應(yīng)用，推動(dòng)大模型在產(chǎn)業(yè)中的落地應(yīng)用。

在大會(huì)現(xiàn)場(chǎng)，吳運(yùn)聲也針對(duì)三大升級(jí)點(diǎn)進(jìn)行了逐一詳解。技術(shù)底座升級(jí)使得騰訊云能夠?yàn)榭蛻籼峁└鼜?qiáng)大、多樣化的基礎(chǔ)模型;TI平臺(tái)工具鏈的升級(jí)，保證了訓(xùn)練任務(wù)的高效穩(wěn)定運(yùn)行，同時(shí)提供了任務(wù)管理、模型優(yōu)化和部署支持，使客戶能夠更輕松地實(shí)現(xiàn)模型的落地應(yīng)用;通過(guò)智能應(yīng)用的升級(jí)，騰訊云為客戶提供了多款即插即用的產(chǎn)品，這些產(chǎn)品將AI大模型技術(shù)與實(shí)際業(yè)務(wù)相結(jié)合，為客戶提供更高效、更自然、更智能的解決方案。

作為騰訊產(chǎn)業(yè)互聯(lián)網(wǎng)生態(tài)系統(tǒng)中的重要組成部分，騰訊云智能始終強(qiáng)調(diào)“云智一體”的重要性和必要性。致力于在技術(shù)研發(fā)和產(chǎn)業(yè)實(shí)踐之間取得平衡，不斷拓展AI在產(chǎn)業(yè)領(lǐng)域應(yīng)用的“縱深度”。吳運(yùn)聲表示，“未來(lái)，我們將持續(xù)打磨MaaS能力，攜手廣大客戶和合作伙伴，共同擁抱AI大模型時(shí)代的‘效能革命’?！?/p>

圖注：騰訊云副總裁、騰訊云智能負(fù)責(zé)人、優(yōu)圖實(shí)驗(yàn)室負(fù)責(zé)人吳運(yùn)聲

以下為演講全文:

大家下午好!

我是騰訊的吳運(yùn)聲，今天我的分享主題是《騰訊云MaaS升級(jí)，深耕產(chǎn)業(yè)推進(jìn)“效能革命”》。

剛剛大家也看到了湯道生與蒙牛盧總數(shù)智人互動(dòng)。

接入AI大模型能力后，數(shù)智分身可以根據(jù)提問(wèn)，實(shí)時(shí)生成答案，并匹配相應(yīng)的表情和動(dòng)作。這也是過(guò)去這段時(shí)間，我們的MaaS能力升級(jí)成果之一。

兩個(gè)多月前，我們正式發(fā)布了騰訊云行業(yè)大模型解決方案，致力于打造模型精選商店，為客戶提供一站式MaaS服務(wù)。我們認(rèn)為，產(chǎn)業(yè)場(chǎng)景是大模型最佳練兵場(chǎng)，這一方向，也很快成為行業(yè)共識(shí)。

過(guò)去這段時(shí)間，我們也在持續(xù)迭代、升級(jí)MaaS能力，希望幫助更多的客戶，快速、低成本落地大模型，搶先抓住AI大模型時(shí)代的發(fā)展機(jī)遇。

當(dāng)前，AI大模型的發(fā)展與應(yīng)用，給整個(gè)云服務(wù)市場(chǎng)帶來(lái)了新的增量。大模型的應(yīng)用，正在逐步貫穿到企業(yè)的設(shè)計(jì)、研發(fā)、生產(chǎn)、營(yíng)銷、服務(wù)全流程，助力企業(yè)創(chuàng)新的同時(shí)，幫助員工提效，加速云智一體進(jìn)程。

當(dāng)前，國(guó)內(nèi)大模型發(fā)展可謂是“百花齊放”，據(jù)不完全統(tǒng)計(jì)，參數(shù)在10億規(guī)模以上的大模型就超過(guò)70個(gè);經(jīng)過(guò)過(guò)去一段時(shí)間的發(fā)展，企業(yè)在大模型方向的探索已經(jīng)度過(guò)了“嘗鮮期”，“產(chǎn)業(yè)落地”成為評(píng)估大模型價(jià)值的重要標(biāo)準(zhǔn)。在今天上午的生態(tài)大會(huì)上，騰訊也正式公布了自研混元通用大模型，為我們行業(yè)大模型服務(wù)提供堅(jiān)實(shí)的底座能力。

尤其大模型在金融、零售、文旅、政務(wù)、出行等各個(gè)領(lǐng)域的深度應(yīng)用，其“提質(zhì)增效”的效果已逐步顯現(xiàn)，大模型的應(yīng)用場(chǎng)景也涵蓋了對(duì)話類客服、營(yíng)銷內(nèi)容創(chuàng)造、跨模態(tài)檢索、風(fēng)控等企業(yè)核心生產(chǎn)和經(jīng)營(yíng)環(huán)節(jié)，表現(xiàn)出更強(qiáng)的能力、更高的效率、更廣的場(chǎng)景、更深的應(yīng)用。一場(chǎng)由“大模型”驅(qū)動(dòng)的效能革命正在發(fā)生。

依托騰訊云多年深耕產(chǎn)業(yè)互聯(lián)網(wǎng)的經(jīng)驗(yàn)，我們從產(chǎn)業(yè)客戶需求場(chǎng)景出發(fā)，基于自研騰訊混元大模型，同時(shí)支持業(yè)內(nèi)主流開(kāi)源模型應(yīng)用，從技術(shù)底座、平臺(tái)能力、智能應(yīng)用三個(gè)維度持續(xù)升級(jí)MaaS能力，助力客戶構(gòu)建專屬大模型及智能應(yīng)用，加速模型產(chǎn)業(yè)落地。

我們打造的模型精選商店，為客戶提供了不同規(guī)模的模型。通過(guò)升級(jí)大模型訓(xùn)練、精調(diào)工具鏈，可以幫助客戶更快、更低成本的打造專屬模型。同時(shí)，騰訊云有非常廣泛的PaaS、SaaS產(chǎn)品，這些是我們行業(yè)大模型非常好的試煉場(chǎng)。

通過(guò)技術(shù)底座的升級(jí)，我們可以為客戶提供能力更強(qiáng)、更多元的基底模型。

混元大模型，構(gòu)筑了騰訊云MaaS堅(jiān)實(shí)的底座。今天，混元也正式面向行業(yè)客戶開(kāi)放，客戶可直接在騰訊云上通過(guò)前端交互和API調(diào)用體驗(yàn);也可以以混元作為基底模型，直接在公有云精調(diào)。

同時(shí)，騰訊云TI平臺(tái)也全面接入了Llama 2、Falcon、Dolly等主流開(kāi)源模型，支持系列模型的直接部署調(diào)用、應(yīng)用流程簡(jiǎn)單。

客戶可根據(jù)需要，在 TI平臺(tái)上一鍵完成模型部署，測(cè)試這些開(kāi)源模型的效果，實(shí)現(xiàn)模型選型。

客戶也可以通過(guò)TI平臺(tái)一鍵啟動(dòng)精調(diào)任務(wù)，對(duì)這些開(kāi)源大模型進(jìn)行精調(diào)。騰訊云TI平臺(tái)提供的多機(jī)多卡、斷點(diǎn)續(xù)訓(xùn)的能力，可以保障訓(xùn)練任務(wù)穩(wěn)定高效地運(yùn)行;訓(xùn)練監(jiān)控能力，可實(shí)時(shí)監(jiān)測(cè)訓(xùn)練指標(biāo)和資源利用率情況;任務(wù)管理能力，可自動(dòng)管理模型多次迭代的訓(xùn)練任務(wù)，記錄每次訓(xùn)練任務(wù)的超參快照，快速還原訓(xùn)練現(xiàn)場(chǎng)。

通過(guò)平臺(tái)能力的升級(jí)，我們可以為客戶提供更完善的工具鏈。

升級(jí)后的TI平臺(tái)工具鏈，具備高性能的大模型精調(diào)與部署能力，覆蓋大模型開(kāi)發(fā)、應(yīng)用全生命周期。我們?cè)诖竽Ｐ途{(diào)最核心的算力、存儲(chǔ)方面進(jìn)行了大幅升級(jí)。比如，算力方面接入了騰訊云HCC高性能計(jì)算節(jié)點(diǎn)及星脈高性能計(jì)算網(wǎng)絡(luò)，提供3.2Tbps的網(wǎng)絡(luò)帶寬;存儲(chǔ)方面接入了Turbo-CFS分布式存儲(chǔ)，最大帶寬可達(dá)到100GiB/s，大幅提升了跨機(jī)器的多機(jī)多卡訓(xùn)練性能。

在全新升級(jí)的TI平臺(tái)工具鏈加持下，客戶只需加入自己獨(dú)有的場(chǎng)景數(shù)據(jù)，進(jìn)行精調(diào)訓(xùn)練，就可快速嘗試多種大模型，并根據(jù)自身業(yè)務(wù)場(chǎng)景需求，在短時(shí)間內(nèi)精調(diào)出專屬的模型方案。

在加速方面，全新升級(jí)的太極Angel大模型加速框架，通過(guò)異步調(diào)度優(yōu)化、顯存優(yōu)化、計(jì)算優(yōu)化等方式，相比行業(yè)常用方案性能提升30%以上。

通過(guò)智能應(yīng)用升級(jí)，為客戶提供豐富的、即插即用的產(chǎn)品。

騰訊在AI技術(shù)領(lǐng)域有長(zhǎng)期投入和積累。過(guò)去我們非常多的AI能力，都是率先在內(nèi)部產(chǎn)品中應(yīng)用，這是騰訊AI的內(nèi)生動(dòng)能。

今天，我們的大模型能力，也正在重塑騰訊云廣泛的PaaS、SaaS產(chǎn)品。這些探索實(shí)踐，也進(jìn)一步驗(yàn)證了我們MaaS能力的可用性、易用性。

圍繞客服場(chǎng)景，今年6月騰訊企點(diǎn)發(fā)布了全新一代智能客服，引入大模型能力，針對(duì)對(duì)話交互、人工輔助和知識(shí)構(gòu)建三個(gè)層面進(jìn)行提升。過(guò)去兩個(gè)月，我們進(jìn)一步升級(jí)了管理端配置能力，提升知識(shí)構(gòu)建效率，優(yōu)化C端用戶體驗(yàn)。同時(shí)，我們積極與各行各業(yè)進(jìn)行產(chǎn)業(yè)實(shí)踐，在文旅、政務(wù)、地產(chǎn)等領(lǐng)域落地標(biāo)桿案例。

基于分析大模型，我們升級(jí)推出騰訊企點(diǎn)分析AI助手，覆蓋對(duì)話式分析，輔助數(shù)據(jù)配置，提取智能結(jié)論、一鍵生成報(bào)告四大場(chǎng)景。今年9月，企點(diǎn)分析AI助手正式向大客戶開(kāi)放內(nèi)測(cè)申請(qǐng)。未來(lái)，人人都能擁有專業(yè)數(shù)據(jù)分析能力，讓數(shù)據(jù)跑得更快，為業(yè)務(wù)一線提供決策支持。

此前，我們推出了數(shù)智人工廠。今天，在AI大模型技術(shù)的加持下，我們?nèi)掳l(fā)布“通用口型”版小樣本數(shù)智人，無(wú)需訓(xùn)練，上傳素材后，將小樣本數(shù)智人的生產(chǎn)周期，從原來(lái)的24小時(shí)縮短到只需要1個(gè)小時(shí)，大大提升了數(shù)智人的生產(chǎn)效率。在大模型技術(shù)的加持下，我們的數(shù)智人可以實(shí)現(xiàn)更高效、更自然、更智能的效果。

在內(nèi)容創(chuàng)作領(lǐng)域，我們與閱文集團(tuán)在文生圖、圖生圖的推理部署和加速中達(dá)成合作。

在文生圖、圖生圖場(chǎng)景中，面向C端用戶提供高QPS、低耗時(shí)的方案。而且模型本身推理部署成本高昂，推理吞吐和時(shí)延存在瓶頸。閱文基于騰訊云TI平臺(tái)搭載的Angel推理加速引擎，推理能力平均提升30%，在文生文領(lǐng)域，更是把成本降低到原來(lái)的四分之一。此外，TI平臺(tái)提供動(dòng)態(tài)batch和自動(dòng)服務(wù)調(diào)度機(jī)制，大幅提高了服務(wù)吞吐量。

作為數(shù)字化助手，我們將持續(xù)打磨MaaS能力，攜手廣大客戶、合作伙伴一起，共同擁抱AI大模型時(shí)代的這場(chǎng)“效能革命”。