一本标价30元的《人像摄影口袋书》因大量AI生成图片出现六指六趾等错误引发关注。此事不仅暴露了出版审核的漏洞，更将AI生成内容的应用边界与治理难题推向公众视野，引人深思。
智能速览
《人像摄影口袋书》因AI生成图片错误致歉下架，引发出版审核质疑。
AI数不清手指，是因为模型学习了纹理而非人类五指的固定规则。
随着技术迭代，AI生成手指错误等低级问题已逐步得到改善。
虽有强制AI标识规定，但通过裁剪、删减等方式去除标识的手段同样存在。
专家建议通过法律、技术和全民意识提升，构建多方协同的AI治理闭环。
精华内容
一本摄影书的AI错误，揭开了技术红利背后的治理难题。我们该如何审视AI生成内容的边界与未来？
AI的常识盲区
AI为何会犯六根手指的低级错误？专家指出，这并非AI不会数数，而是其生成模型在训练中只学习了手指的纹理特征，并未被灌输“人类必须是五根手指”这一常识。它就像一个未经世事的“高智商孩子”，在不确定时会画出看起来“合理”但不符合现实的细节。
不过，随着技术演进，此类问题正在被攻克。通过全局语义对齐、人类反馈强化学习等算法的优化，以及海量高质量数据的迭代，最新AI模型已能准确生成五根手指，此类典型错误已大幅减少。
标识与去标识的博弈
相比于手指错误，更高维度的AI内容造假更令人担忧。例如，有人用AI生成“流浪汉进家”的图片骗家人报警，其逼真程度足以以假乱真。
尽管《人工智能生成合成内容标识办法》已实施，要求对AI内容进行明确标识，但“上有政策、下有对策”。网上流传着各种去标识技巧：删除文末的AI标注，裁剪掉图片上的AI水印，或剪辑掉视频中的提示片段。这使得AI内容在传播中可能“隐身”，给公众带来误导，也让出版方和创作者面临版权界定不清的法律风险。
多方共治的出路
面对挑战，AI治理需要系统性方案。技术专家建议，应在“标识可见”的基础上，强化隐式标识的抗篡改能力，确保内容经过二次编辑后仍可被识别，并实现跨平台整合。
更重要的是要从“人”的层面入手，形成多方协同的治理闭环。这需要顶层设计将AI标注纳入法律规范，内容生成商严格遵守规定，传播者也承担起审核责任。同时，为AI生成内容划定清晰的边界，并标注其参与程度，将有助于公众更直观地辨别信息，避免被完全凭空生成的内容误导。
AI技术的迭代与问题的解决相伴相生。在享受技术带来的便利时，建立清晰、有效的治理框架至关重要。我们应如何平衡创新与规范，在拥抱技术红利的同时，与之和谐共处？
