阿里達(dá)摩院成功研發(fā)新型架構(gòu)芯片

12月3日消息，今日，阿里達(dá)摩院宣布成功研發(fā)新型架構(gòu)芯片。這是全球首款基于DRAM的3D鍵合堆疊存算一體芯片。它可突破馮·諾依曼架構(gòu)的性能瓶頸，滿足人工智能等場(chǎng)景對(duì)高帶寬、高容量?jī)?nèi)存和極致算力的需求。在特定AI場(chǎng)景中，該芯片性能提升10倍以上，效能比提升高達(dá)300倍。

隨著人工智能應(yīng)用場(chǎng)景的爆發(fā)，現(xiàn)有的計(jì)算機(jī)系統(tǒng)架構(gòu)的短板逐漸顯露，例如功耗墻、性能墻、內(nèi)存墻等問(wèn)題。存算一體芯片是目前解決以上問(wèn)題的最佳途徑——它類似于人腦，將數(shù)據(jù)存儲(chǔ)單元和計(jì)算單元融合為一體，大幅減少數(shù)據(jù)搬運(yùn)，從而極大提高計(jì)算并行度和能效。

但受限于技術(shù)的復(fù)雜度、高昂的設(shè)計(jì)成本以及應(yīng)用場(chǎng)景的匱乏，過(guò)去幾十年業(yè)界對(duì)存算一體芯片的研究進(jìn)展緩慢。如今，達(dá)摩院希望通過(guò)自研創(chuàng)新技術(shù)解決算力瓶頸這一業(yè)界難題。

此外，存算一體芯片在終端、邊緣端以及云端都有廣闊的應(yīng)用前景。例如VR/AR、無(wú)人駕駛、天文數(shù)據(jù)計(jì)算、遙感影像數(shù)據(jù)分析等場(chǎng)景中，存算一體芯片都可以發(fā)揮高帶寬、低功耗的優(yōu)勢(shì)。

為了拉近計(jì)算資源和存儲(chǔ)資源的距離，達(dá)摩院計(jì)算技術(shù)實(shí)驗(yàn)室創(chuàng)新性采用混合鍵合（Hybrid Bonding）的3D堆疊技術(shù)進(jìn)行芯片封裝——將計(jì)算芯片和存儲(chǔ)芯片face-to-face地用特定金屬材質(zhì)和工藝進(jìn)行互聯(lián)。

此外，內(nèi)存單元采用異質(zhì)集成嵌入式DRAM ，擁有超大內(nèi)存容量和超大帶寬優(yōu)勢(shì)。同時(shí)在計(jì)算芯片方面，達(dá)摩院研發(fā)設(shè)計(jì)了流式的定制化加速器架構(gòu)，對(duì)推薦系統(tǒng)進(jìn)行“端到端”加速，包括匹配、粗排序、神經(jīng)網(wǎng)絡(luò)計(jì)算、細(xì)排序等任務(wù)。

這種近存架構(gòu)有效解決了帶寬受限的問(wèn)題，最終內(nèi)存、算法以及計(jì)算模塊的完美融合，大幅提升帶寬的同時(shí)還實(shí)現(xiàn)了超低功耗，展示了近存計(jì)算在數(shù)據(jù)中心場(chǎng)景的潛力。從長(zhǎng)遠(yuǎn)來(lái)看，存算一體技術(shù)還將成為類腦計(jì)算的關(guān)鍵技術(shù)。

得益于技術(shù)的創(chuàng)新性，該芯片的研究成果已被芯片領(lǐng)域頂級(jí)會(huì)議ISSCC 2022收錄。未來(lái)，達(dá)摩院希望能進(jìn)一步攻克存內(nèi)計(jì)算技術(shù)，并逐步優(yōu)化典型應(yīng)用、生態(tài)系統(tǒng)等方面。

值得一提的是，日前，阿里巴巴達(dá)摩院深度語(yǔ)言模型體系A(chǔ)liceMind發(fā)布中文社區(qū)首個(gè)表格預(yù)訓(xùn)練模型SDCUP，該模型在全球權(quán)威表格數(shù)據(jù)集WikiSQL、SQuALL上取得了業(yè)界最優(yōu)效果，且模型和訓(xùn)練代碼均已對(duì)外開源。目前，該技術(shù)完成了產(chǎn)品化，已通過(guò)阿里云智能客服為政務(wù)、金融、零售等行業(yè)客戶提供表格問(wèn)答和數(shù)據(jù)庫(kù)自然交互服務(wù)。