张大妈

复旦 | 会看图≠会改图:多模态模型真正短板

源自小红薯:智能CV

02-09 15:04

多模态大模型虽然能看懂图表,但能否直接根据指令进行精准修改?复旦提出的ChartE3基准跳过代码生成环节,直接测试端到端编辑能力,发现模型在处理数据结构变更时仍存在显著短板,为未来研究指明了方向。

复旦 | 会看图≠会改图:多模态模型真正短板智能速览

  • 提出ChartE3基准,采用直接图像到图像的编辑评测范式。

  • 涵盖12类编辑任务,包含外观修改和结构级数据变更。

  • 构建包含808张图表和1211条指令的高质量可验证数据集。

  • 实验发现模型擅长局部编辑,但难以处理全局数据操作。

  • 闭源模型整体优于开源模型,结构理解仍是核心瓶颈。

复旦 | 会看图≠会改图:多模态模型真正短板精华内容

多模态大模型在视觉理解上表现强劲,但在直接对图表进行端到端编辑时,能力究竟如何?

端到端评测

ChartE3基准打破了以往依赖中间代码的“图表-代码-渲染”范式,直接采用图像到图像的编辑设定。这种设计旨在真实衡量模型的视觉理解与执行能力,填补了图表理解与代码生成评测之间的关键空白。

通过五阶段流水线构建,该基准最终形成了包含808张图表和1211条指令的高质量数据集,确保了评测的可靠性与多样性。

任务全覆盖

基准系统覆盖了局部与全局编辑任务,共计12类编辑类型。不仅包含颜色、字体等外观级修改,还深入到数据排序、过滤、图表类型转换等结构级编辑。

这种从易到难的清晰梯度设计,能够全方位测试模型在不同复杂度下的表现,准确识别出模型在理解图表深层逻辑时的不足。

结构理解弱

实验结果显示,当前多模态模型在局部图表编辑上表现良好,但在涉及数据驱动的全局编辑任务(如排序、过滤)上显著失效。闭源模型整体表现优于开源模型。

即便对比强大的代码中介方法,端到端图像编辑在视觉一致性上仍具优势。然而,结构理解能力不足仍是当前多模态模型面临的核心瓶颈。

ChartE3基准的推出,不仅暴露了多模态模型在结构理解上的软肋,也为后续研究提供了坚实的评估基础。面对复杂的图表编辑需求,模型如何跨越视觉感知与逻辑推理的鸿沟?这值得每一位从业者深思。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章