阿里云推视频生成大模型 未来可应用于电影制作

柏纳
2023-09-06 13:20

9月6日消息,阿里云近日推出全新视频生成大模型I2VGen-XL,并在魔搭社区开放体验,用户上传一张图片后2分钟左右即可生成一段1280*720的高分辨率视频,该模型研发负责人表示,未来将进一步实现2K超清效果,可应用于短视频内容生产、电影制作等场景。

format-jpg

截自魔塔社区官网

据介绍,和业界爆火的AI绘画创作大模型不同,视频生成大模型的技术门槛更高,其需要克服文本和视频内容匹配度、视频画面质量、画面连续性等诸多技术挑战。

在此之前,阿里云和微软等科技公司相继推出一系列可控视频生成研究成果,例如用户可通过定义空间布局、运动模式等条件来生成视频,但其画面清晰度难以满足真实场景应用的需求。

针对该问题,阿里云进一步提出创新思路,I2VGen-XL模型设计了两个阶段,首先在低分辨率条件下保证生成结果和给定图像语义的匹配度,随后通过视频扩散模型(VLDM)来提高视频分辨率,并同时提升时间和空间上的一致性,保证最终视频内容的清晰度和连贯性,最终实现1280*720高分辨率的突破,并且在画面细节的展现上大幅领先现有模型。

该模型的训练还使用了多种风格的视频数据,因此可生成科技感、电影色、卡通风格和素描等类型丰富的视频。

format-jpg

I2VGen-XL流程图;截自魔塔社区官网

目前,I2VGen-XL的模型和代码均已开源,国内外社交媒体显示,该模型已吸引国内外用户和开发者的广泛体验和二次开发,涌现了大量创意AI视频生成内容,例如在城堡上展翅的恐龙、宇航员在飞船中行走的科幻电影画面等等。

在视觉生成领域,阿里云此前已推出AI绘画创作大模型通义万相(基座模型Composer)和可控视频生成模型VideoComposer,团队在该领域发表60多篇CCF-A类论文,并在国际顶级视觉竞赛中获得10余项冠军。

format-jpg

截自魔塔社区官网

值得一提的是,根据国家七部委联合公布的《生成式人工智能服务管理暂行办法》指导要求,阿里大模型“通义千问”已完成备案工作,待正式上线。

1、该内容为作者独立观点,不代表电商派观点或立场,文章为作者本人上传,版权归原作者所有,未经允许不得转载。
2、电商号平台仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。
3、如对本稿件有异议或投诉,请联系:info@dsb.cn
相关阅读
9月6日消息,阿里近日推出全新视频生成模型I2VGen-XL。该模型研发负责人表示,该模型可应用于短视频内容生产、电影制作等场景。
近日,阿里推出全新视频生成模型I2VGen-XL,并在魔搭社区开放体验。
4月10日消息,经阿里内部人士确认,HappyHorse已内部上架百炼,预计一周后对外发布。此前,HappyHorse1.0作为黑马登顶Artificial Analysis视频竞技场排行榜,是目前全球排名最高的开源视频生成模型。此前有消息称,HappyHorse是来自阿里旗下淘天集团未来生活实验室张迪领导的团队所研发,目前未来生活实验室已从淘天集团独立,归属于ATH事业群的AI创新事业部。
5月15日消息,阿里巴巴正式开源通义万相Wan2.1-VACE,这是业界功能最全的视频生成与编辑模型,单一模型可同时支持文生视频、图像参考视频生成视频重绘、视频局部编辑、视频背景延展以及视频时长延展等全系列生成和编辑能力。该模型拥有1.3B和14B两个版本,其中1.3B版本可在消费级显卡运行,开发者可在GitHub、Huggingface及魔搭社区下载体验。该模型还将逐步在通义万相官网、阿里百炼上线,可满足广告设计、影视制作及短视频创作等场景需求。
5月24日消息,浙江剧刻影视科技有限公司与阿里近日在阿里巴巴谷园区举行合作签约仪式,双方依托阿里先进的AI模型技术与浙江剧刻的行业洞察力,共同打造面向未来的AI新视听产业生态。此次合作的核心成果是联合推出“剧刻时光”AI创作平台。该平台以阿里强大的AI技术为底座,深度整合了从剧本智能解析、分镜自动生成,到在线剪辑、配音配乐的全链条工具,能够大幅简化视频创作流程,提升创作效率。
4月11日消息,在今日的阿里峰会上,阿里智能首席技术官周靖人正式宣布推出语言模型通义千问。他介绍,通义千问支持多轮对话,文案创作,逻辑推理,多模态理解,多语言支持。在视频演示中,通过通义千问,可以提升工作效率、购物体验等等。比如调用差旅接口推荐差旅产品,视频会议中自动生成会议摘要;可以作为智能购物助手,自动推荐品牌、产品等。
9月14日消息,阿里通义将在栖大会期间发布视频生成模型,目前通义App频道和通义万相PC端已上线“视频生成”入口,仅支持用户预约,但未开放使用。页面内容显示,全新发布的视频生成模型是由通义实验室自主研发,包含“文生视频”和“图生视频”两种创作模式。
3月22日消息,阿里达摩院已在AI模型社区“魔搭”ModelScope上线了“文本生成视频模型”。根据介绍,整体模型参数约17亿,目前只支持英文输入。扩散模型采用Unet3D结构,通过从纯高斯噪声视频中,迭代去噪的过程,实现视频生成的功能。据了解,“魔搭”是阿里达摩院联手CCF开源发展委员会在2022栖大会推出的AI模型社区,首批开源模型超过300个,包括视觉、语音、自然语言处理、多模态等AI主要方向。
1月9日消息,阿里通义千问模型入驻钉钉服务号,成为首个通过办公应用开放服务端口的模型。用户在搜索“通义千问”就可找到对话窗口,通过文字或语音交互,让模型提供文生文、文生图、图像理解等多模态服务。