12月21日消息，京東域內(nèi)商家提供觸達、服務(wù)、洞察的一體化智能服務(wù)平臺——京小智，秉承京東云大小模型協(xié)同理念，不斷推進在零售電商場景落地，旨在為品牌商家降本增效，提升咨詢轉(zhuǎn)化。今年11.11，京小智服務(wù)商家數(shù)量增長至超36萬，其中中小商家同比增加102%，較今年618期間增加62%。

營銷場景中，京小智正在探索為商家經(jīng)營決策提供“專屬顧問”，使產(chǎn)品操作擺脫傳統(tǒng)“拖拉拽”，只需一句話指令，就能讓大模型智能生成數(shù)據(jù)分析報告，為店鋪生意經(jīng)營提供專業(yè)指導(dǎo)。

圖源：京小智官網(wǎng)

銷售場景中，京小智實現(xiàn)分鐘級文案自動生成，極大提升應(yīng)答效率和準確率，助力商家提高咨詢轉(zhuǎn)化的效率。比如當用戶進行商品比較時，商家過去要花費大量時間拆解用戶意圖，再生成解決方案手動配置在后臺。借助京小智，商家僅需上傳商品使用方法的文檔，便可以“文檔應(yīng)答”自動拆解問答，支持文字、圖表等多種形式。過去這一過程需數(shù)日，如今僅需幾分鐘，商品對比采納率高達87%。

當用戶進行商品屬性問答時，京小智結(jié)合言犀大模型能力自動生成文案，以更加擬人化的方式來解答，應(yīng)答準確率提升5%；求購?fù)扑]場景時，京小智根據(jù)用戶和人工客服的溝通內(nèi)容，基于用戶表達的商品需求，自動推薦并展示推薦理由，推薦準確率提升27%。

客服場景中，京小智通過打通京東站內(nèi)活動、物流、服務(wù)單、發(fā)票、訂單修改等各業(yè)務(wù)場景，綜合輸出“意圖識別”技術(shù)能力，實現(xiàn)價保申請等功能的一鍵調(diào)用。比如，當消費者表露出尋求“便宜”“降價”的意圖，京小智可自動識別并推送功能，為客戶退差價，無需客戶跳轉(zhuǎn)和等待，減少客服操作時間。更在夜間店鋪無人值守時，為商家提供用戶咨詢應(yīng)答，提升夜間轉(zhuǎn)化。

圖源：京東云公眾號

因覆蓋電商零售復(fù)雜的全流程環(huán)節(jié)，京小智以“小步快跑”推進大小模型高效協(xié)同：逐個場景引入大模型，實現(xiàn)底層通用能力和復(fù)雜推理；全流程關(guān)鍵節(jié)點接入小模型，實現(xiàn)場景的快速定位和識別。

比如在用戶咨詢，京小智往往需要通過多輪對話，才能讓消費者將問題表述清楚。這一過程中，小模型負責“意圖識別”，對用戶意圖做出快速和精準的判斷，由此進入推薦導(dǎo)購、屬性應(yīng)答、商品對比等不同場景的應(yīng)答模塊；再把這一識別結(jié)果和此前多輪對話學(xué)習，交給大模型，輸出具體應(yīng)答。

同時，在保證能力效果的前提下，大模型本身也在加速。據(jù)介紹，言犀團隊通過實現(xiàn)算法層和體系結(jié)構(gòu)層等能力，以量化、稀疏化、減脂蒸餾、參數(shù)共享、內(nèi)存優(yōu)化、算子融合、動態(tài)批處理、流式解碼等方式，優(yōu)化大模型推理系統(tǒng)，從而使大模型適當變小、變快。