度小滿CTO許冬亮：金融行業(yè)是大模型落地應(yīng)用的高潛場景

8月25日消息，在“北大光華-度小滿金融大模型技術(shù)與應(yīng)用論壇”上，度小滿CTO許冬亮表示，金融行業(yè)是高價值行業(yè)，數(shù)字化基礎(chǔ)好，高度依賴數(shù)據(jù)和技術(shù)，也是大模型落地應(yīng)用的高潛場景。

現(xiàn)階段，如何在金融領(lǐng)域發(fā)揮大模型的能力，許冬亮認(rèn)為還有三個挑戰(zhàn)需要解決：第一個挑戰(zhàn)是通用模型能力不能滿足金融場景需要。首先是通用大模型本身精度不夠，當(dāng)前大模型原生的幻覺問題、可控性問題和可解釋性問題都限制了生成內(nèi)容的準(zhǔn)確性和可控性，而金融又是一個對精準(zhǔn)性、可控性要求很高的行業(yè)；其次是通用大模型金融知識的缺失；再次是大模型更新迭代困難，金融是高時效的，模型必須能夠?qū)崟r跟蹤金融市場的變化和趨勢。

圖注：度小滿CTO許冬亮

（圖源度小滿官方公眾號）

第二個挑戰(zhàn)是大模型如何高效植入現(xiàn)有業(yè)務(wù)場景。一個團(tuán)隊既要懂業(yè)務(wù)場景的know-how，又要理解大模型的使用方法，而且還需要具備比較強(qiáng)的工程能力，這樣才有可能選擇出適合應(yīng)用大模型的場景，高效的將大模型嵌入到實際業(yè)務(wù)流程。

第三個挑戰(zhàn)是大模型應(yīng)用于金融業(yè)中產(chǎn)生的安全合規(guī)和隱私保護(hù)問題。金融本身是一個高合規(guī)要求的行業(yè)，大模型又是具有顛覆性的新技術(shù)，我們對它的風(fēng)險還沒有完全了解，隨著大模型落地的不斷推進(jìn)，如何平衡大模型落地收益和潛在合規(guī)風(fēng)險，會是一個越來越突出的問題。

（圖源度小滿官網(wǎng)截圖）

如何解決大模型在金融行業(yè)落地應(yīng)用的這些難題，許冬亮認(rèn)為每家機(jī)構(gòu)獨立去解決這些問題既是不現(xiàn)實的，也是不經(jīng)濟(jì)的，科技公司和金融機(jī)構(gòu)在金融大模型上的合作非常有必要。

大模型訓(xùn)練需要大數(shù)據(jù)，但是金融數(shù)據(jù)非常寶貴。許冬亮具體解釋，“大模型訓(xùn)練非常依賴底層的生產(chǎn)資料，也就是數(shù)據(jù)，但金融行業(yè)數(shù)據(jù)的分布實際上比較分散，通用智能化數(shù)據(jù)主要集中在科技公司手上，金融數(shù)據(jù)則分散在各個金融科技公司手上，而對于金融機(jī)構(gòu)而言數(shù)據(jù)是核心競爭力也不太可能進(jìn)行分享，其他還有監(jiān)管、數(shù)據(jù)安全、隱私保護(hù)等因素存在，所以注定未來這個行業(yè)高質(zhì)量數(shù)據(jù)的分布也會是分散的狀態(tài)?！?/p>

許冬亮表示，未來從合作模式上來說，應(yīng)該會是科技公司提供不同類型的通用大模型，金融科技公司在通用大模型的基礎(chǔ)上提供金融行業(yè)大模型，將領(lǐng)域內(nèi)的知識、know-how進(jìn)一步整合，以私有化的形式部署到金融機(jī)構(gòu)內(nèi)部，而不是以云端API的方式提供服務(wù)，科技公司和金融機(jī)構(gòu)未來會是深度合作的模式。

圖注：度小滿數(shù)據(jù)智能部總經(jīng)理楊青

（圖源度小滿官方公眾號）

度小滿數(shù)據(jù)智能部總經(jīng)理楊青透露，度小滿軒轅大模型2.0版本將在10月份發(fā)布。2.0版本在對話和金融理解等場景下的能力大幅提升。在增量預(yù)訓(xùn)練和指令微調(diào)階段，該版本加入了海量金融數(shù)據(jù)，對金融問題回答更加專業(yè)、準(zhǔn)確；在對話能力上，“軒轅2.0”的上下文長度擴(kuò)充至8k，能夠處理更長的金融報告、研究和分析。

今年5月份，度小滿開源了國內(nèi)首個千億級中文金融大模型“軒轅”。