AI 运镜里最经典的翻车——镜头绕人物转一圈、角色当场“崩坏”——正在被针对性地解决。WorldCast 就是冲着这个痛点去的研究成果:按团队自己的说法,它让 AI 生成的角色视频在环绕、平移、推拉过程中不崩脸、不漂移、不丢身份。产品化的动作来得更快:小米 REDMI K100 手机已于 10 月 27 日正式发布,11 月 4 日小米技术官宣该机在影像上新增“3D 运镜”AI 玩法。从相册挑选一张静态照片,AI 就能生成大角度 3D 运镜效果的视频,支持环绕、推拉、倾斜等镜头运动,官方强调画面里人物的五官、发型、服饰不会发生改变。但要回答“会不会变形穿帮”,得先搞清普通模型为什么会在运镜时穿帮,再弄清 WorldCast 这套解法的三条边界在哪里。小红书IT之家微博
运镜崩脸不是玄学:镜头转到了从没拍到过的角度
大角度环绕在人物视频生成里是块试金石。小米团队论文作者栾剑把问题说得很直白:小角度运镜还好,一旦大角度环绕,初始帧没拍到的角色区域就会暴露出来,结果就是脸变形、衣服乱变、身份漂移,轨迹也容易跑偏。这不是玄学,而是信息缺口:一张正面照片里根本没有发型后侧、背包和衣服背面的像素,镜头绕过去后,模型只能凭猜测补全这些区域,补错了就表现为结构畸变与身份漂移。而且两类失败相互耦合。上海交通大学研究者王烁把常被混在一起的问题拆开:生成视频是否真的沿着指定轨迹运动?镜头转过去后,人物的形状、衣着和身份是否仍稳定?轨迹先跑偏,人物要补全的视角就跟着错位,这就是“指哪打哪”常常变成“随缘运镜”还顺手换了一张脸的原因。小红书知乎小红书
解法是两件事:给相机一张空间地图,给人物一份多视角记忆
WorldCast 的第一步是把相机“钉”在预设轨迹上:估计初始帧深度,将画面反投影成三维点云,再把点云尺度与目标相机轨迹对齐,沿轨迹渲染出每个目标视角的几何提示。与此同时生成覆盖掩码:前者为相机运动提供显式空间约束,后者标识初始视角无法覆盖、需要进一步补全的区域,防止模型把没拍到的部分当成已知像素硬拉过去。第二步是处理“看不见的那一面”:模型引入人物正面、侧面、背面等多视角锚点,与目标轨迹对齐进同一坐标系,组成一套按视角检索的角色记忆,用栾剑的总结说就是——相机转到哪,就从哪个视角的角色记忆里取信息。小红书知乎小红书
这套建立在 Wan2.1-I2V-14B 底座上的方案,还配了一个专用数据集 CLACT:8 万条训练样本中 5 万条由 UE5 构建、3 万条由 Blender 渲染,覆盖 99 个角色、33 个环境,评测集 42 个场景既有合成也有真实,每场景跑 6 种运镜轨迹。模型权重也已开源到 GitHub(PixCtrol/WorldCast),这几天放出来后已经能自行测试。知乎小红书
数字说明稳定,但前提比数字更重要
在 CLACT 基准与 GEN3C、Lyra 2.0、ReCamMaster 等代表方法的对比中,WorldCast 的相机轨迹误差 ATE 为 0.065,相比 Uni3C 的 0.098 降低约 33.7%;跨视角几何一致性 MEt3R 达到 0.228,身份相似度 ArcFace 达到 0.555,两项角色一致性指标都在对比方法里居前。按论文演示,在最难的 360° 环绕加推拉复合轨迹下,对比方法普遍角色崩坏,WorldCast 的人物能全程稳住。知乎小红书
不过,这些结果要连着三条边界一起读。第一,这是团队自己出题的测试:CLACT 由作者构建,成绩也是作者自测,目前还没有第三方复现。第二,多视角记忆是“脸稳”的真正支柱,也是隐含前提:论文明确 WorldCast 使用了额外的多视角角色锚点,与只吃单张图的方法比较时输入信息并不对等;消融实验显示,移除这套记忆注意力后,ATE 从 0.065 回升到 0.100,ArcFace 从 0.555 掉到 0.370——不给角度完整的参考图,效果要打折。第三,论文自己划出了尚未解决的区域:减少对额外锚点的依赖、处理复杂动态场景和更长的交互式镜头,仍是后续方向。小红书知乎小红书
手机玩家和开发者,各拿各的入口
对普通用户,最直接的入口是手机端:REDMI K100 上线的“3D 运镜”把整套流程压缩成从相册选图、一键生成,官方在介绍该功能时同时披露,研发团队后续还会继续研发更多运镜效果、更长时长连续生成方案以及可控 4D 视频生成技术。上线首日的用户讨论里,被点名最多的好评恰恰是“人物五官发型不会崩坏”,说明这正是此前 AI 动图玩法的最大痛点;也有用户在追问更多运镜样式和更长的视频时长。另一条入口是本地部署,权重开源的门槛并不低:官方建议用 48GB 显存以上的显卡,普通电脑跑不动,而且目前需要会敲命令才能用,普通用户还得等常用剪辑工具接入。微博小红书
所以,“用 WorldCast 做 3D 运镜会不会变形穿帮”没有单字答案:在论文测过的范围内,它把“会不会崩”从赌运气变成了有明确条件可控的问题——参考图角度越完整、镜头路径越贴近评测覆盖的轨迹,人物越稳;反过来,只喂一张正面照、拍摄对象持续运动、需要长镜头连续生成的场景,正是论文自己承认还没有数据支撑的薄弱区。手机端的实际表现,也只能等第三方实测积累后才能下最终结论。