阿里達(dá)摩院聯(lián)合浙大等發(fā)布“洛犀”端云協(xié)同平臺

1月25日消息，昨日，在 “中國工程院院刊：信息領(lǐng)域青年學(xué)術(shù)前沿論壇”上，阿里巴巴達(dá)摩院、上海浙江大學(xué)高等研究院、上海人工智能實(shí)驗(yàn)室聯(lián)合發(fā)布“洛犀”端云協(xié)同平臺。該平臺提供一站式的端云協(xié)同模型訓(xùn)練、部署、通信能力，致力于促進(jìn)大小模型協(xié)同進(jìn)化，構(gòu)建充分利用大模型應(yīng)用潛力的新一代人工智能體系。

（圖源：獵云網(wǎng)）

據(jù)介紹，洛犀平臺沉淀了端云兩側(cè)最佳實(shí)踐的算法組件和平臺服務(wù)。其中，平臺在端側(cè)以python/js package的形式提供服務(wù)，包含表征、文本理解、圖計(jì)算等能力；在端云鏈路上，平臺提供實(shí)現(xiàn)端云協(xié)同關(guān)鍵的通信能力，包括方案分發(fā)、數(shù)據(jù)通信鏈路；端云協(xié)同的模型訓(xùn)練累積沉淀在云端，包括端模型訓(xùn)練等。

通過洛犀平臺技術(shù)，聯(lián)合研究團(tuán)隊(duì)成功將3.4億參數(shù)版本的M6模型高精度壓縮至百萬參數(shù)的10MB大小，以1/30的體積還原了90%以上性能，并試點(diǎn)部署于搜索場景，成為業(yè)界首個(gè)落地的端上預(yù)訓(xùn)練模型。此外，團(tuán)隊(duì)還借助洛犀完成了圖神經(jīng)網(wǎng)絡(luò)、排序模型、強(qiáng)化學(xué)習(xí)等技術(shù)在端云協(xié)同范式下的部署。

（圖源：獵云網(wǎng)）

值得一提的是，本月中旬，工信部直屬中國電子學(xué)會公布“2021中國電子學(xué)會科學(xué)技術(shù)獎(jiǎng)”名單，達(dá)摩院、阿里云、浙江大學(xué)完成的“超大規(guī)模高性能圖神經(jīng)網(wǎng)絡(luò)計(jì)算平臺及其應(yīng)用”獲得科技進(jìn)步一等獎(jiǎng)。

據(jù)了解，該項(xiàng)目攻堅(jiān)的圖神經(jīng)網(wǎng)絡(luò)方向，將深度神經(jīng)網(wǎng)絡(luò)與圖式結(jié)構(gòu)數(shù)據(jù)結(jié)合，在生產(chǎn)、科研中擁有廣闊應(yīng)用前景，且有望解決傳統(tǒng)深度學(xué)習(xí)面臨的因果關(guān)系推理、可解釋性等瓶頸性問題。