雷軍：小米研發(fā)大模型的方向是輕量化和本地部署

8月25日消息，小米雷軍表示，小米做大模型的思路和很多公司不太一樣，選擇主力突破的是輕量化和本地部署。目前小米自研的13億參數(shù)的端側(cè)模型已經(jīng)在手機(jī)端跑通，部分場(chǎng)景效果媲美60億模型在云端的運(yùn)算結(jié)果。與早些時(shí)候市場(chǎng)上放出的手機(jī)端大模型的方案相比，小米會(huì)調(diào)整模型結(jié)構(gòu)和參數(shù)大小，適配各種芯片在內(nèi)存和算力上的特點(diǎn)，致力于達(dá)到功耗、推理速度和生成效果的最佳平衡。