最近 Adobe 宣布了一款全新的创作工具 ——Adobe Firefly Video Model。这一新工具是 Adobe 在 AI 视频生成领域的一次大胆尝试,建立在其现有的 Firefly 生成性 AI 图像模型之上。

image.png

Adobe 表示,这款模型是经过伦理培训的,使用的数据都是公司拥有或拥有使用许可的,这样确保了生成内容的安全性。

不过,有一些 Adobe Stock 的创作者对此表示异议,他们认为自己上传作品时并未想象会被用来训练 AI 模型,甚至与他们的风格相竞争。

Adobe Firefly Video Model预计在今年晚些时候进入测试阶段,目前公司已经开设了一个提前访问的等候名单,感兴趣的朋友可以申请。

在功能上,它不仅支持文本生成视频、图像转视频,还具备视频编辑的功能,但每次生成的片段最长限制为5秒

高质量视频生成示例

Adobe 的官方博客上已经展示了一些早期生成的精彩视频例子,内容质量相当惊人,且对文本提示的遵循度非常高。

其中借助 Firefly 文本到视频,可以使用文本提示、各种摄像机控件和参考图像来生成无缝填充时间轴空白的 B-Roll。

image.png

例如,输入 “在雪林中的驯鹿特写,日落时分,光线梦幻柔和”大致场景,生成的视频效果就相当出色。

具体提示词:“Cinematic closeup and detailed portrait of a reindeer in a snowy forest at sunset. The lighting is cinematic and gorgeous and soft and sun-kissed, with golden backlight and dreamy bokeh and lens flares. The color grade is cinematic and magical.”

再比如,输入 “慢动作火山喷发,镜头飞越熔岩”相关场景,结果也是引人入胜。

具体提示词:“Slow-motion fiery volcanic landscape, with lava spewing out of craters. the camera flies through the lava and lava splatters onto the lens. The lighting is cinematic and moody. The color grade is cinematic, dramatic, and high-contrast.”

根据官方介绍,Firefly Video Model 擅长生成自然世界的视频。当制作人员错过了设置场景所需的关键建立镜头时,生成带有摄像机运动的插入,如风景、植物或动物。

提示词:Footage of a camera on a drone flying over a desert with wind blowing over the dunes creating waves in the sand below.

此外,如果需要更多补充镜头,可以使用基于参考帧生成的剪辑填充时间轴中的空白。

比如原视频是这样的:

可以借助Firefly Video Model 生成补充视频:

提示词: Detailed extremely macro closeup view of a white dandelion viewed through a large red magnifying glass

另外,也可以利用丰富的摄像机控件(如角度、运动和缩放)在生成的视频上创建完美的视角。

image.png

比如生成无人机视角,提示词:Drone shot going between the trees of a snowy forest at sunset golden hour. The lighting is cinematic and gorgeous and soft and sun-kissed, with golden backlight and dreamy bokeh and lens flares. The color grade is cinematic and magical.

对于企业决策者来说,Adobe 的 Firefly 视频模型可能是一个相当有吸引力的选择,尤其是想为员工培训或市场营销制作视频的公司。

Adobe 还为用户提供了法律保障,即使在使用其 AI 模型时遇到侵权诉讼,Adobe 也会提供保护,尽管目前还未明确说明 Firefly 视频是否包含在内。

自2023年3月推出 Adobe Firefly 以来,Adobe 已将该模型作为其广泛使用的 Creative Cloud 软件套件中新 AI 功能的基石。

Firefly 工具已经嵌入到 Photoshop、Illustrator 和 Lightroom 等流行应用程序中,赋予用户 Generative Fill、Generative Remove 和 Text-to-Template 等功能。

根据 Adobe 的说法,自推出以来,已使用 Firefly 生成了超过120亿张图像和矢量图,使其成为公司最快速采纳的创新之一。

领导该项目的 Adobe 执行官 Ashley Still 表示,公司“与视频编辑社区密切合作,推进 Firefly Video Model。”

不仅支持AI 视频生成

此外,Firefly 视频模型不仅仅是生成新视频,还具备去除不需要的元素、完美过渡等 AI 编辑功能。

随着短视频内容的兴起以及制作时间的压缩,Adobe 希望通过这些工具帮助编辑人员加快制作流程,同时保持高质量输出。

Adobe 的 Firefly Video Model 通过提供工具帮助编辑人员不仅可以剪辑镜头,还可以管理色彩校正、动画、视觉效果等,从而解决了这一问题。

该模型还支持广泛的创意效果,包括上面提到的生成 b-roll、宏镜头和大气元素(如火、烟或水),用户可以将这些元素叠加在预先录制的或动画的镜头上。

今年晚些时候将出现在 Premiere Pro 中的一个突出功能是 Generative Extend。此功能将允许编辑人员延长视频剪辑,填补镜头中的空白,或平滑过渡 —— 帮助将剪辑与音频和其他视觉元素的节奏相匹配。

Adobe 通过展示 Generative Extend 如何能够延长镜头的持续时间以完美对齐音乐高潮来展示这种能力:

编辑后,最终效果展示:

Adobe 也在不断探索如何将 AI 集成到更多的创作工作流程中,希望这些新工具能够帮助创作者有更多的时间去探索创意,从而提升项目的整体质量。

官方博客:https://blog.adobe.com/en/publish/2024/09/11/bringing-gen-ai-to-video-adobe-firefly-video-model-coming-soon

划重点:

🌟 Adobe 推出的 Firefly 视频模型支持文本到视频、图像到视频以及视频编辑功能,预计将于今年晚些时候进入测试阶段。  

🎥 早期生成的视频质量惊人,展示了对文本提示的高度遵循性,吸引了众多创作者的关注。  

📈 Adobe 为用户提供法律保障,帮助企业在使用 AI 制作视频时规避侵权风险。