京东开源 JoyAI-Echo 长音视频生成框架

2026-06-04 11:47:16 0点赞 0收藏 0评论
京东开源 JoyAI-Echo 长音视频生成框架

6 月 3 日,京东把 JoyAI-Echo 长音视频生成框架开源了,代码和权重都在 GitHub 上( jd-opensource/JoyAI-Echo )。

这个框架解决什么问题

用 AI 生成视频的人都知道,短片段效果还行,一旦要生成连续长视频,问题就来了。角色在不同镜头里"变脸",声音忽高忽低,生成一段几分钟的视频要等很久。

JoyAI-Echo 针对这三个问题做了四项技术。

跨模态音视频记忆库是第一个。生成多个镜头时,系统会记住角色的外观和说话人的音色,最长支持 5 分钟的视频(来源:搜狐 IT )。

记忆驱动后训练流程是第二个。团队用了 SFT 、跨模态 RLHF 和 DMD 三种技术。其中 DMD 让生成速度提升了大约 7.5 倍(来源:搜狐 IT )。

DirectorAgent 是第三个。用户用自然语言描述需求,系统自动拆成剧本、角色、场景和镜头。对某个片段不满意,可以直接对话修改,不用整条重做(来源:中关村在线)。

第四个是轻量化实时超分模块,能提升视频和音频的分辨率(来源:搜狐 IT )。

评测数据

京东做了一个评测集,包含 100 个故事和 3000 个镜头。评测显示语音内容准确率是 0.8646 (来源:搜狐 IT )。

用户偏好调研的结果: 81.7% 偏好音频质量, 80.6% 觉得提示词匹配, 63.6% 满意视觉美学, 59.4% 认为 IP 一致性还行(来源:搜狐 IT )。

背景

2026 年做长视频生成的不止京东。 OpenAI 的 Sora 、 Google 的 Veo 3 、快手的可灵都在做。 JoyAI-Echo 的区别是把视频和语音一起生成,还开了源(来源: GitHub )。

京东在 AI 视频生成上从 2024 年就开始投入。 2026 年 5 月发过 JoyAI 系列的其他模型,做图像和语音方向。

各方说法

京东的公告说 JoyAI-Echo"首次同时实现了长程跨模态一致性、分钟级视频的实时推理、对话式交互能力和高分辨率输出"(来源: GitHub )。

中关村在线的报道用了"系统性攻克"这个词,说的是"角色形象持续性不足、语音特征不稳定、整体生成效率偏低"这三个瓶颈(来源:中关村在线)。

后续

代码和权重都开源了,京东没提商业化的事。

59.4% 的 IP 一致性偏好率说明角色一致性还有得磨。实际效果怎么样,得等开发者社区用起来才知道。

展开 收起
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
0
扫一下,分享更方便,购买更轻松