騰訊推出Hunyuan-Large開源大模型
2024-11-05 15:50:35
分享
11月5日消息，騰訊宣布推出業(yè)界參數(shù)規(guī)模最大、效果最好的開源MoE大語言模型Hunyuan-Large。該模型的總參數(shù)量為389B，激活參數(shù)為52B，訓(xùn)練token數(shù)量為7T，最大上下文長(zhǎng)度為256K。
更加詳細(xì)情況，請(qǐng)關(guān)注本站最新動(dòng)態(tài)。
11月5日消息，騰訊宣布推出業(yè)界參數(shù)規(guī)模最大、效果最好的開源MoE大語言模型Hunyuan-Large。該模型的總參數(shù)量為389B，激活參數(shù)為52B，訓(xùn)練token數(shù)量為7T，最大上下文長(zhǎng)度為256K。