查看原文
其他

OpenAI发布文生视频模型,效果炸裂

封面新闻 2024-04-22


2月16日凌晨

OpenAI再次扔出一枚深水炸弹

发布了文生视频模型Sora



Sora完美继承DALL·E 3的画质

和遵循指令能力

能生成长达1分钟的高清视频


一位时髦女士漫步在东京街头,周围是温暖闪烁的霓虹灯和动感的城市标志。



一名年约三十的宇航员戴着红色针织摩托头盔展开冒险之旅,电影预告片呈现其穿梭于蓝天白云与盐湖沙漠之间的精彩瞬间,独特的电影风格、采用35毫米胶片拍摄,色彩鲜艳。



竖屏超近景视角下,这只蜥蜴细节拉满:



OpenAI表示,公司正在教授人工智能理解和模拟运动中的物理世界,目标是训练出能够帮助人们解决需要与现实世界互动的问题的模型。在此,隆重推出文本到视频模型——Sora。Sora可以生成长达一分钟的视频,同时保证视觉质量和符合用户提示的要求。


目前官网上已经更新了48个视频demo,在这些demo中,Sora不仅能准确呈现细节,还能理解物体在物理世界中的存在,并生成具有丰富情感的角色。该模型还可以根据提示、静止图像甚至填补现有视频中的缺失帧来生成视频。



如今,Sora正面向部分成员开放,以评估关键领域的潜在危害或风险。同时,OpenAI也邀请了一批视觉艺术家、设计师和电影制作人加入,期望获得宝贵反馈,以推动模型进步,更好地助力创意工作者。OpenAI提前分享研究进展,旨在与OpenAI以外的人士合作并获取反馈,让公众了解即将到来的AI技术新篇章。


Sora模型能够生成包含多个角色、特定类型运动和主体及背景精确细节的复杂场景。该模型不仅能理解用户在提示中所要求的内容,还能理解这些事物在现实世界中的存在方式。该模型对语言有深刻理解,能准确解读提示,并生成表达丰富情感的引人入胜的角色。Sora还能在单个生成的视频中创建多个镜头,使角色和视觉风格保持准确一致。


比如一大群纸飞机在树林中飞过,Sora知道碰撞后会发生什么,并表现其中的光影变化。


一群纸飞机在茂密的丛林中翩翩起舞,在树林中穿梭,就像候鸟一样。


Sora还可以在单个视频中创建多个镜头,并依靠对语言的深入理解准确地解释提示词,保留角色和视觉风格。


但Sora模型当前也存在弱点。OpenAI称它可能难以准确模拟复杂场景的物理原理,并且可能无法理解因果关系。例如,一个人可能咬了一口饼干后,饼干会没有咬痕,玻璃破碎的物理过程可能也无法被准确呈现。


又如“五只灰狼幼崽在一条偏僻的碎石路上互相嬉戏、追逐”,狼的数量会变化,一些凭空出现或消失。



此外,模型还可能会混淆提示的空间细节,例如左右不分,并且在处理随时间发生的事件的精确描述方面也可能存在困难,比如跟踪特定的摄像机轨迹。


如提示词“篮球穿过篮筐然后爆炸”中,篮球没有正确被篮筐阻挡。




技术方面,目前OpenAI透露的不多,简单介绍如下:


Sora是一种扩散模型,从噪声开始,能够一次生成整个视频或扩展视频的长度,


关键之处在于一次生成多帧的预测,确保画面主体即使暂时离开视野也能保持不变。


与GPT模型类似,Sora使用了Transformer架构,有很强的扩展性。


在数据方面,OpenAI将视频和图像表示为patch,类似于GPT中的token。


通过这种统一的数据表示方式,可以在比以前更广泛的视觉数据上训练模型,涵盖不同的持续时间、分辨率和纵横比。


Sora建立在过去对DALL·E和GPT模型的研究之上。它使用DALL·E 3的重述提示词技术,为视觉训练数据生成高度描述性的标注,因此能够更忠实地遵循用户的文本指令。


除了能够仅根据文本指令生成视频之外,该模型还能够获取现有的静态图像并从中生成视频,准确地让图像内容动起来并关注小细节。


该模型还可以获取现有视频并对其进行扩展或填充缺失的帧,请参阅技术论文了解更多信息(晚些时候发布)。

Sora是能够理解和模拟现实世界的模型的基础,OpenAI相信这一功能将成为实现AGI的重要里程碑。

一位YouTube博主Paddy Galloway发表了对Sora的感想,他表示内容创作行业已经永远的改变了,并且毫不夸张。“我进入YouTube世界已经15年时间,但OpenAI刚刚的展示让我无言…动画师/3D艺术家们有麻烦了,素材网站将变得无关紧要,任何人都可以无壁垒获得难以置信的产品,内容背后的‘想法’和故事将变得更加重要。”

对此,你怎么看?

来源:OpenAI官网、每日经济新闻、界面新闻、广州日报



往期推荐



破70亿!贾玲深夜再发文,热搜沸了

被指“盗摄”?薛之谦刚刚回应了

湖南衡阳一饭店起火14人送医,官方通报

近期热门视频

更多精彩视频,请关注封面新闻视频号

编辑 李扬
责编 王萌审核 余行


点“在看”,持续关注!

继续滑动看下一个
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存