2023-12-14 15:21

一张图or文字生成无限3D世界!斯坦福吴佳俊团队新作,让网友直呼“难以置信”

AIcore 发布在 AIGC
2.2万

原文来源:量子位

图片来源:由无界 AI生成

斯坦福吴佳俊团队打造AI版“爱丽丝梦游仙境”巨作!

仅用一张图or一段文字就能沿相机轨迹生成无限连贯3D场景

只需输入一段古诗词,诗中场景立刻映入眼帘:

而且还是来回式的,可以再倒回去的那种:

同一起点可以进入不同场景:

真实场景也可以,其中的人物阴影等细节都毫无违和感:

方块世界更不在话下,仿佛打开了“我的世界”:

这项工作名为WonderJourney,由斯坦福吴佳俊团队和谷歌研究院联合打造。

除了可以从任意位置开始,无限生成多样化且连贯的3D场景,WonderJourney根据文本描述生成时,可控性也很高。

只要将鼠标悬停在视频上,就可以暂停自动滑动。

这项工作的发布让网友们直呼“难以置信”🔥。项目代码还没正式发布,就收获了200+星:

AI研究员Xander Steenbrugge惊讶之余表示:

这是生成式AI和传统3D技术的完美结合。

要知道,之前的工作都是专注于单一类型场景,WonderJourney可谓打开了新世界的大门。

那这究竟是如何做到的?


开启3D奇妙之旅


生成无限连贯3D场景要解决的一大难题是:如何在保持元素多样性的同时,生成符合逻辑的场景元素组合。

这当中需要判断将要生成的元素空间位置的合理性,还需要处理好新旧场景的遮挡关系、视差等几何关系。

可以看到WonderJourney在这方面的处理上非常细致:

无论什么风格都能轻松驾驭:

能够做到这些,关键在于WonderJourney的模块化流程。

总的生成过程分为“确定要生成什么对象”、“把这些对象放在哪里”、“这些场景如何在几何上连接”三步。

需要以下三个模块配合完成:

  • Scene description generation:使用大语言模型(LLM)根据当前场景生成下一个场景的文本描述。
  • Visual scene generation:将文本描述转换为3D点云表示的场景。
  • Visual validation:使用VLM验证生成的场景,检测到不合理的结果启动重新生成。

具体来说,在Scene description generation模块,使用预训练好的LLM输入当前场景描述,通过自回归生成下一个场景,其中包含风格、物体、背景三部分的描述。

此外,还要将自然语言描述进行词类过滤,只保留名词和形容词;每生成一个新场景描述,会更新场景描述记忆。

在Visual scene generation模块,先是将当前图像/文本转换为3D点云表示。

然后使用depth refinement增强对象边界的depth不连续性,通俗来讲就是让边界两侧的深度对比更加明显,从而使过渡更加逼真。

之后使用text-guided inpainting基于文本描述生成新场景图像。

研究人员还设计了depth consistency loss和re-rendering consistency机制改进新旧场景遮挡和点云对齐。

最后Visual validation模块,使用VLM提示检测生成图像中的不好的结果,比如画框、模糊等,如果检测到则重新生成场景。

值得一提的是,这三个模块都可用最先进的预训练模型实现、替换,所以不需要任何训练。


实验测试


由于连贯3D场景生成是一个没有现有可用数据集的新任务,所以研究人员在实验中使用了自己拍摄的照片、来自在线无版权的照片以及生成的图片进行了评估。

此外,使用了两种最先进的连续视图生成方法作为基准:基于图像的InfiniteNature-Zero和基于文本的SceneScape。

定性结果展示了从不同类型输入生成的连贯3D场景序列效果,表明方法可以从任何输入开始生成:

此外,同一输入可生成不同输出,表明方法具有多样性:

研究人员还从生成效果多样性、视觉质量、场景复杂度和有趣度这4个方面进行了人类偏好评估。

结果WonderJourney方法明显优于InfiniteNature-Zero、SceneScape。


作者简介


该篇论文来自斯坦福大学吴佳俊团队和谷歌研究院。

论文一作俞洪兴,斯坦福大学四年级博士生,导师吴佳俊。

主要研究领域为物理场景理解和动态建模。

俞洪兴曾在谷歌研究院实习,论文部分工作是在实习期间完成。

吴佳俊,现任斯坦福大学助理教授,隶属于斯坦福视觉与学习实验室 (SVL)和斯坦福人工智能实验室 (SAIL)。

在麻省理工学院完成博士学位,本科毕业于清华大学姚班,曾被誉为“清华十大学神之一”。

论文链接:https://arxiv.org/abs/2312.03884

参考链接:
[1]https://twitter.com/koven_yu/status/1733192368508322080
[2]kovenyu.com/wonderjourney/

本文链接:https://www.aixinzhijie.com/article/6841036
转载请注明文章出处

评论
登录 账号发表你的看法,还没有账号?立即免费 注册
下载
分享
收藏
阅读
评论
点赞
上一篇
下一篇