華為云CTO:大模型時(shí)代需要全新的網(wǎng)絡(luò)互聯(lián)技術(shù)

2024-02-26 09:06:20
分享

2月26日消息,華為云CTO張宇昕在巴塞羅那華為云峰會(huì)表示,大模型時(shí)代對(duì)算力有著全新的要求:1、聯(lián)算比。未來需要全新的網(wǎng)絡(luò)互聯(lián)技術(shù)來解決運(yùn)算量和GPU算力之間的巨大差距。2、容算比。當(dāng)前在模型訓(xùn)練過程中為獲取足夠顯存容量,存在不必要的GPU算力閑置。3、存算比。當(dāng)前在模型訓(xùn)練過程中,大量的時(shí)間消耗在GPU數(shù)據(jù)加載,造成算力的進(jìn)一步浪費(fèi)?;诖?,云的系統(tǒng)架構(gòu)將從“以CPU為中心的主從架構(gòu)”向“多元算力對(duì)等架構(gòu)” 躍遷,突破算力、存儲(chǔ)和網(wǎng)絡(luò)的邊界,實(shí)現(xiàn)多元算力的對(duì)等全互聯(lián)。

更加詳細(xì)情況,請(qǐng)關(guān)注本站最新動(dòng)態(tài)。
    亚洲无码高清自拍偷拍自慰av网站,免费高清无码黄色网,欧美一级片免费在线观看,午夜毛片在线观看