阿里云王超:云計(jì)算將成為大模型必選算力底座
5月4日消息,在第六屆數(shù)字中國(guó)建設(shè)峰會(huì)“人工智能分論壇”上,阿里云智能計(jì)算集群靈駿負(fù)責(zé)人、資深技術(shù)專家王超發(fā)表了題為《建設(shè)大規(guī)模綠色智算,護(hù)航人工智能產(chǎn)業(yè)可持續(xù)發(fā)展》的演講。王超指出,大模型在推理和訓(xùn)練場(chǎng)景都需要大算力,云計(jì)算將成為大模型的必選算力底座。
阿里云智能計(jì)算集群靈駿負(fù)責(zé)人、資深技術(shù)專家 王超
圖源:阿里云官微,下同
王超在演講中表示,大模型訓(xùn)練通常需要數(shù)千張GPU卡,基于TB級(jí)別的數(shù)據(jù),耗時(shí)幾個(gè)月進(jìn)行訓(xùn)練,然后其他用戶在預(yù)訓(xùn)練大模型的基礎(chǔ)上再進(jìn)行強(qiáng)化學(xué)習(xí),而這需要數(shù)百?gòu)圙PU卡,耗時(shí)一兩個(gè)月。
但這種現(xiàn)狀存在很多問(wèn)題:一方面,廠商投資數(shù)億元建設(shè)的計(jì)算集群只用幾個(gè)月極不經(jīng)濟(jì);另外一方面,購(gòu)買(mǎi)、規(guī)劃和組建超大規(guī)模的算力集群也要耗時(shí)半年到一年的時(shí)間。此外,把算力集群的算力提供給全球各地的其他客戶使用也有著很大的技術(shù)挑戰(zhàn)。
王超透露,阿里云正在基于靈駿智算集群和機(jī)器學(xué)習(xí)平臺(tái)PAI解決這些問(wèn)題,希望未來(lái)幫助大模型廠商只需要花費(fèi)一天的時(shí)間就能在云上建設(shè)一個(gè)數(shù)千張GPU卡規(guī)模的訓(xùn)練集群,在完成訓(xùn)練任務(wù)后,算力可以快速釋放出來(lái)供其他客戶使用。
王超介紹,目前,阿里云使用多年積累的技術(shù),已經(jīng)可以在云上打造一個(gè)“10萬(wàn)卡”體量的超大規(guī)模智算集群,并且解決了關(guān)鍵的網(wǎng)絡(luò)、數(shù)據(jù)存儲(chǔ)、算力的可觀測(cè)、可調(diào)度和負(fù)載平衡等技術(shù)問(wèn)題,構(gòu)建了一個(gè)從集群IaaS到PaaS到MaaS全棧式的服務(wù),方便各行各業(yè)的大模型廠商和企業(yè)客戶使用。
在本次大會(huì)上,阿里云還集中展示了在綠色數(shù)據(jù)中心、雙碳解決方案以及少年云助學(xué)計(jì)劃等領(lǐng)域的最新產(chǎn)品和進(jìn)展。
少年云助學(xué)計(jì)劃2021年10月由阿里巴巴集團(tuán)發(fā)起,目前在20個(gè)欠發(fā)達(dá)區(qū)域,讓6萬(wàn)多個(gè)中小學(xué)生用上了自己的專屬云電腦,除信息技術(shù)外,數(shù)學(xué)、語(yǔ)文、音樂(lè)、美術(shù)、勞動(dòng)、溝通等43門(mén)特色課程被搬進(jìn)了這個(gè)信息科技教學(xué)空間。
2、電商號(hào)平臺(tái)僅提供信息存儲(chǔ)服務(wù),如發(fā)現(xiàn)文章、圖片等侵權(quán)行為,侵權(quán)責(zé)任由作者本人承擔(dān)。
3、如對(duì)本稿件有異議或投訴,請(qǐng)聯(lián)系:info@dsb.cn