阿里云推視頻生成大模型 未來可應(yīng)用于電影制作
9月6日消息,阿里云近日推出全新視頻生成大模型I2VGen-XL,并在魔搭社區(qū)開放體驗,用戶上傳一張圖片后2分鐘左右即可生成一段1280*720的高分辨率視頻,該模型研發(fā)負(fù)責(zé)人表示,未來將進(jìn)一步實現(xiàn)2K超清效果,可應(yīng)用于短視頻內(nèi)容生產(chǎn)、電影制作等場景。
截自魔塔社區(qū)官網(wǎng)
據(jù)介紹,和業(yè)界爆火的AI繪畫創(chuàng)作大模型不同,視頻生成大模型的技術(shù)門檻更高,其需要克服文本和視頻內(nèi)容匹配度、視頻畫面質(zhì)量、畫面連續(xù)性等諸多技術(shù)挑戰(zhàn)。
在此之前,阿里云和微軟等科技公司相繼推出一系列可控視頻生成研究成果,例如用戶可通過定義空間布局、運動模式等條件來生成視頻,但其畫面清晰度難以滿足真實場景應(yīng)用的需求。
針對該問題,阿里云進(jìn)一步提出創(chuàng)新思路,I2VGen-XL模型設(shè)計了兩個階段,首先在低分辨率條件下保證生成結(jié)果和給定圖像語義的匹配度,隨后通過視頻擴散模型(VLDM)來提高視頻分辨率,并同時提升時間和空間上的一致性,保證最終視頻內(nèi)容的清晰度和連貫性,最終實現(xiàn)1280*720高分辨率的突破,并且在畫面細(xì)節(jié)的展現(xiàn)上大幅領(lǐng)先現(xiàn)有模型。
該模型的訓(xùn)練還使用了多種風(fēng)格的視頻數(shù)據(jù),因此可生成科技感、電影色、卡通風(fēng)格和素描等類型豐富的視頻。
I2VGen-XL流程圖;截自魔塔社區(qū)官網(wǎng)
目前,I2VGen-XL的模型和代碼均已開源,國內(nèi)外社交媒體顯示,該模型已吸引國內(nèi)外用戶和開發(fā)者的廣泛體驗和二次開發(fā),涌現(xiàn)了大量創(chuàng)意AI視頻生成內(nèi)容,例如在城堡上展翅的恐龍、宇航員在飛船中行走的科幻電影畫面等等。
在視覺生成領(lǐng)域,阿里云此前已推出AI繪畫創(chuàng)作大模型通義萬相(基座模型Composer)和可控視頻生成模型VideoComposer,團(tuán)隊在該領(lǐng)域發(fā)表60多篇CCF-A類論文,并在國際頂級視覺競賽中獲得10余項冠軍。
截自魔塔社區(qū)官網(wǎng)
值得一提的是,根據(jù)國家七部委聯(lián)合公布的《生成式人工智能服務(wù)管理暫行辦法》指導(dǎo)要求,阿里大模型“通義千問”已完成備案工作,待正式上線。
2、電商號平臺僅提供信息存儲服務(wù),如發(fā)現(xiàn)文章、圖片等侵權(quán)行為,侵權(quán)責(zé)任由作者本人承擔(dān)。
3、如對本稿件有異議或投訴,請聯(lián)系:info@dsb.cn