阿里云AI基礎(chǔ)設(shè)施升級(jí)亮相，模型算力利用率提升超20%

9月20日，2024云棲大會(huì)現(xiàn)場(chǎng)，阿里云全面展示了全新升級(jí)后的AI Infra系列產(chǎn)品及能力。通過全棧優(yōu)化，阿里云打造出一套穩(wěn)定和高效的AI基礎(chǔ)設(shè)施，連續(xù)訓(xùn)練有效時(shí)長(zhǎng)大于99%，模型算力利用率提升20%以上。

“AI創(chuàng)新需要新形態(tài)的云基礎(chǔ)設(shè)施。”阿里云副總裁、彈性計(jì)算及存儲(chǔ)產(chǎn)品線負(fù)責(zé)人吳結(jié)生表示，阿里云整合底層的計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)等資源，實(shí)現(xiàn)了統(tǒng)一調(diào)度和軟硬一體優(yōu)化，以滿足模型訓(xùn)練和推理的爆發(fā)式AI算力需求。

基于全新的CIPU2.0，阿里云新推出磐久AI服務(wù)器，實(shí)現(xiàn)單機(jī)16卡、顯存1.5T以上，支持Solar RDMA互聯(lián)。磐久AI服務(wù)器采用超鈦金電源實(shí)現(xiàn)97%以上的高能效，并可通過AI算法預(yù)測(cè)GPU故障，準(zhǔn)確率達(dá)92%，保障 AI 算力的性能和穩(wěn)定性。

在存儲(chǔ)方面，阿里云并行文件存儲(chǔ)CPFS實(shí)現(xiàn)端到端全鏈路性能提升，單客戶端吞吐達(dá)25GB/s，高性能數(shù)據(jù)流動(dòng)達(dá)到100GB/s，為AI智算提供指數(shù)級(jí)擴(kuò)展存儲(chǔ)能力。

為AI設(shè)計(jì)的高性能網(wǎng)絡(luò)架構(gòu)HPN7.0，性能和穩(wěn)定性也再次提升，其中，集合通信性能提升1倍以上，模型端到端訓(xùn)練性能提升10%以上。

通過底層計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)等基礎(chǔ)設(shè)施的升級(jí)，阿里云靈駿集群可提供超大規(guī)模、超強(qiáng)性能的智能算力，萬卡規(guī)模性能線性度超過96%，并行存儲(chǔ)吞吐20TB/s，萬卡規(guī)模下網(wǎng)絡(luò)帶寬利用率超過99%，可支持單集群十萬卡級(jí)別AI算力規(guī)模。

面向AI業(yè)務(wù)，阿里云計(jì)算產(chǎn)品也大幅演進(jìn)更新。本次云棲大會(huì)上，容器服務(wù)ACK面向AI實(shí)現(xiàn)重磅升級(jí)，大模型應(yīng)用冷啟動(dòng)延遲降低85%，并可提供15000個(gè)超大規(guī)模節(jié)點(diǎn)支持。同時(shí)，容器計(jì)算服務(wù)ACS 即將推出 GPU容器算力。