字節(jié)跳動(dòng)布局大模型 分別在語言和圖像兩種模態(tài)上發(fā)力

2月23日消息，據(jù)36氪報(bào)道，字節(jié)跳動(dòng)在大模型上已有所布局，分別在語言和圖像兩種模態(tài)上發(fā)力。字節(jié)跳動(dòng)相關(guān)技術(shù)負(fù)責(zé)人對(duì)此回應(yīng)：技術(shù)中臺(tái)在這些領(lǐng)域有探索，還很初期，不成熟。

一名知情人士透露，語言大模型團(tuán)隊(duì)由字節(jié)搜索部門牽頭，目前團(tuán)隊(duì)規(guī)模在十?dāng)?shù)人左右。圖片大模型團(tuán)隊(duì)則由產(chǎn)品研發(fā)與工程架構(gòu)部下屬的智能創(chuàng)作團(tuán)隊(duì)牽頭。

另有知情人士表示，字節(jié)跳動(dòng)語言大模型團(tuán)隊(duì)在今年組建，探索方向主要為與搜索、廣告等下游業(yè)務(wù)的結(jié)合，“搜索業(yè)務(wù)部門、AI Lab和AML（應(yīng)用機(jī)器學(xué)習(xí)）團(tuán)隊(duì)都調(diào)了一部分人支援語言大模型，團(tuán)隊(duì)目前的預(yù)期是在今年年中推出大模型”。

據(jù)悉，語言大模型團(tuán)隊(duì)負(fù)責(zé)人與圖像大模型團(tuán)隊(duì)負(fù)責(zé)人的間接和直接匯報(bào)對(duì)象，均為Tik Tok產(chǎn)品技術(shù)負(fù)責(zé)人朱文佳。加入字節(jié)跳動(dòng)前，朱文佳曾在百度擔(dān)任搜索部主任架構(gòu)師。朱文佳于2015年進(jìn)入頭條，被稱為“頭條里算法技術(shù)的Top 3人選”。四年后，他成為今日頭條CEO。2021年2月，他又調(diào)任成為Tik Tok產(chǎn)品技術(shù)負(fù)責(zé)人，向Tik Tok CEO周受資匯報(bào)。

朱文佳，圖源：今日頭條官微

此外，一名AI資深從業(yè)者透露，字節(jié)并不缺GPU。字節(jié)旗下的企業(yè)技術(shù)服務(wù)平臺(tái)火山引擎，在2021年正式進(jìn)軍基礎(chǔ)云市場(chǎng)（IaaS層），為大模型所需的算力奠定了基礎(chǔ)。

上述從業(yè)者表示：“從訓(xùn)練大模型的角度而言，工程團(tuán)隊(duì)和云服務(wù)團(tuán)隊(duì)一樣關(guān)鍵，在兩者上均無短板的字節(jié)跳動(dòng)具有一定優(yōu)勢(shì)?！?/p>

對(duì)AI領(lǐng)域的布局，字節(jié)的反應(yīng)速度一直較快。據(jù)了解，目前AIGC（AI生成內(nèi)容）技術(shù)也已結(jié)合到頭條的內(nèi)容創(chuàng)作以及抖音的圖文內(nèi)容生成中。比如2021年，抖音上線的可以把人臉卡通畫的“漫畫臉”特效就小有出圈。

但ChatGPT的成功模式已證明，大模型的訓(xùn)練是入場(chǎng)費(fèi)高昂的長跑。另有知情人士表示，在ChatGPT公開前，字節(jié)內(nèi)部對(duì)大模型的投入依然較為猶疑，“對(duì)于字節(jié)的產(chǎn)品矩陣來說，目前的算法已經(jīng)夠用”。