京東云發(fā)布八大智算產(chǎn)品 助力企業(yè)部署大模型

2月26日消息，京東云城市大會(huì)今日舉行。會(huì)上，京東云發(fā)布八大智算產(chǎn)品，五種全場(chǎng)景大模型部署模式，同時(shí)推出“開(kāi)發(fā)訓(xùn)練+場(chǎng)景應(yīng)用”雙引擎一站式平臺(tái)，助力企業(yè)實(shí)現(xiàn)DeepSeek等大模型開(kāi)箱即用、智能體深度開(kāi)發(fā)與應(yīng)用，全面打通從模型落地到產(chǎn)業(yè)智能升級(jí)的最后一公里。

面向眾多企業(yè)用戶(hù)多樣化DeepSeek部署需求，京東云提供多場(chǎng)景、多形態(tài)、多規(guī)格的五大解決方案。對(duì)于希望低成本搭建AI應(yīng)用的初創(chuàng)公司和開(kāi)發(fā)者，提供裸金屬智算服務(wù)和公有云Token調(diào)用兩種模式；對(duì)于金融、政府、企業(yè)等需要“數(shù)據(jù)不出域”的用戶(hù)，提供大模型私有化部署，包括一體機(jī)、純軟件部署和算力運(yùn)營(yíng)三種模式，實(shí)現(xiàn)“數(shù)據(jù)本地化、模型私有化”。

圖源：中國(guó)網(wǎng)科技

京東云DeepSeek大模型一體機(jī)，通過(guò)自研的算力池化能力、智能推理加速引擎，充分融合軟硬件，實(shí)現(xiàn)了性能的全面提升，推理速度提升50%。目前，在河南鶴壁、江蘇宿遷、山東濱州，京東云已經(jīng)助力多地政府基于現(xiàn)有基礎(chǔ)設(shè)施本地化部署DeepSeek。

智能體成為大模型產(chǎn)業(yè)落地的核心載體，言犀智能體平臺(tái)實(shí)現(xiàn)三大能力突破：一是開(kāi)放集成DeepSeek等數(shù)十款主流大模型；二是依托超萬(wàn)個(gè)智能體落地實(shí)戰(zhàn)經(jīng)驗(yàn)，預(yù)置協(xié)同辦公、專(zhuān)業(yè)助手、客戶(hù)服務(wù)、營(yíng)銷(xiāo)推廣、數(shù)據(jù)應(yīng)用等五大高價(jià)值場(chǎng)景模板；三是沉淀1000+智能插件與100+行業(yè)解決方案，支持零代碼敏捷構(gòu)建智能體。

隨著應(yīng)用深入，通過(guò)企業(yè)自有數(shù)據(jù)進(jìn)行模型蒸餾勢(shì)在必行。京東言犀大模型通過(guò)高質(zhì)量模型蒸餾，服務(wù)零售、健康、物流、金融等數(shù)百個(gè)場(chǎng)景，推理效率優(yōu)化1.5倍，顯存節(jié)約70%。當(dāng)前，AI已經(jīng)跑在京東內(nèi)部100多個(gè)場(chǎng)景，服務(wù)超60萬(wàn)員工和20萬(wàn)商家。未來(lái)，模型蒸餾能力也將向企業(yè)開(kāi)放。

圖源：中國(guó)網(wǎng)科技