11月9日消息，在2023世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會“數(shù)字化綠色化協(xié)同轉(zhuǎn)型發(fā)展”分論壇上，螞蟻集團(tuán)首席技術(shù)官何征宇表示，AI和大模型的爆發(fā)推高了智能算力需求，數(shù)字化、綠色化協(xié)同發(fā)展的使命，要求行業(yè)亟需構(gòu)建綠色、高質(zhì)量的計(jì)算基礎(chǔ)設(shè)施。

他呼吁行業(yè)加強(qiáng)軟硬協(xié)同與生態(tài)建設(shè)，共同提升計(jì)算基礎(chǔ)設(shè)施算力規(guī)模、可用性與寬容度。

何征宇認(rèn)為，AI大模型時代，行業(yè)智能化的深度和廣度在擴(kuò)展，雙化協(xié)同也迎來提速?！按笳Z言模型與生成式AI讓計(jì)算機(jī)開始具備語言與內(nèi)容生產(chǎn)能力，將我們帶入了通用人工智能時代，承載這種能力的智能計(jì)算資源需求也隨之井噴，算力基礎(chǔ)設(shè)施的效率提升和綠色化是必經(jīng)之路?！?/p>

據(jù)何征宇介紹，上周螞蟻百靈大模型正式通過了備案，螞蟻集團(tuán)搭建的綠色計(jì)算體系，也正在為百靈大模型提供綠色化的計(jì)算能力。螞蟻建設(shè)了萬卡異構(gòu)集群，其中硬件算力效率（HFU）超過60%，集群有效訓(xùn)練時長占比90%以上，RLHF訓(xùn)練在同等模型效果下訓(xùn)練吞吐性能相較于業(yè)界方案提升3.59倍，推理性能相較于業(yè)界方案提升約2倍，處于業(yè)界先進(jìn)水平。

螞蟻集團(tuán)首席技術(shù)官何征宇

圖源新浪科技

值得一提的是，11月7日，由上海人工智能實(shí)驗(yàn)室與商湯科技聯(lián)合主辦的IEEE“人工智能大模型”標(biāo)準(zhǔn)大會在深圳市工業(yè)和信息化局、IEEE標(biāo)準(zhǔn)協(xié)會指導(dǎo)下和深圳市市場監(jiān)督管理局支持下順利召開，近300位產(chǎn)業(yè)專家參加大會。會上，中國電子技術(shù)標(biāo)準(zhǔn)化研究院、上海人工智能實(shí)驗(yàn)室、華為云、百度、騰訊、螞蟻、商湯科技、360、中興通訊、美的、海信集團(tuán)等國內(nèi)首批11家單位發(fā)起成立了IEEE大模型工作組。

據(jù)介紹，此次大會上發(fā)起成立的IEEE大模型標(biāo)準(zhǔn)工作組，將協(xié)同國內(nèi)外大模型產(chǎn)業(yè)力量，制定大模型技術(shù)規(guī)范、測評方法、安全可信、可靠決策等領(lǐng)域國際先進(jìn)標(biāo)準(zhǔn)，為全球大模型產(chǎn)業(yè)技術(shù)創(chuàng)新和發(fā)展提供更好支撐。IEEE國際標(biāo)準(zhǔn)體系也將首次新增人工智能大模型領(lǐng)域國際標(biāo)準(zhǔn)。會后，由首批成員單位代表組成的編寫組，連同國際專家，正式立項(xiàng)IEEE大模型標(biāo)準(zhǔn)工作組的首個標(biāo)準(zhǔn)《大規(guī)模深度學(xué)習(xí)模型評估框架及流程》。

IEEE大模型標(biāo)準(zhǔn)工作組正式成立

圖源商湯科技SenseTime公眾號