“AI专家”正在自我毒害：模型崩溃如何让准确率持续下降

当前，人们越来越习惯于将人工智能（AI）大语言模型视为无所不知的“专家”，向其寻求各类问题的答案和建议。然而，一系列研究和实践表明，这种“让AI装专家”的交互方式，不仅误解了AI的本质，更可能导致模型准确率出现可测量的、持续性的下降。

将AI视为拥有独立人格和观点的“专家”本身就是一种误解。正如前特斯拉AI总监安德烈·卡帕西（Andrej Karpathy）所指出的，大语言模型并非一个有主观意识的“实体”，而是一台复杂的“模拟器”。当用户提问“你怎么看？”时，模型并非在调用内在的“自我”进行思考，而是在其海量的训练数据中，寻找一个最符合“通用AI助手”角色的概率分布。这个角色通常被人类反馈强化学习（RLHF）精心塑造得彬彬有礼、政治正确且力求中立，但其观点本质上是被平均化了的统计学妥协，缺乏真正的深刻洞见。这种为了安全性和普适性而付出的“对齐税”，抹平了模型的个性，使其输出趋向于同质化和“套路化”的八股文。

更严重的问题在于，当AI生成的这些“专家”内容被大量发布到互联网上后，它们又会成为下一代AI模型训练的数据来源，形成一种恶性循环。这个过程被称为“模型崩溃”（Model Collapse）或“模型近亲繁殖”。如同反复复印同一张纸会导致图像质量不断退化，当AI持续学习由自己或同类生成的“合成数据”时，其输出的多样性和准确性会急剧下降。训练数据中的特征被稀释，一些罕见但关键的信息会逐渐消失。久而久之，模型会陷入一个狭窄的“舒适区”，只能生成有限且重复度极高的内容，与现实世界的偏差越来越大，最终丧失“创造力”。

这种由数据污染导致的模型能力退化，已在多个高风险领域显现出具体危害。一项由新加坡国立大学、哈佛大学等机构联合进行的研究，在分析了超过80万条医疗领域的合成数据后发现，当AI生成的临床文本被用于训练新模型时，一些关于罕见病和非典型临床表现的重要信息会在迭代中悄然流失。这直接导致了医疗AI在诊断可靠性上的整体下降，增加了漏诊风险。同样，在编程领域，一位工程师的实验表明，AI可以迅速生成数千行能够运行的代码，但这些代码往往缺乏整体架构设计，像一堆被“堆”在一起的砖块，难以维护和扩展。更危险的是，AI写的代码和AI写的测试可能存在相同的“盲区”，完美地相互配合，制造出“一切正常”的假象，只有人类的外部审查才能发现深藏的逻辑错误。

除了被动地被自身输出污染，AI的“专家”身份还使其成为恶意操纵的目标。一种被称为“生成式引擎优化”（GEO）的“数据投毒”服务应运而生。不法分子通过在网络上系统性地投放大量虚假或带有偏见性的“软文”，利用高权重网站发布伪造的“权威”信息，欺骗AI的检索增强生成（RAG）系统。由于AI在评估信息时更擅长判断语义相关性而非事实真实性，这些被精心伪装的虚假内容很容易被AI采纳，并作为“标准答案”呈现给用户。这种行为不仅污染了信息环境，更使用户基于对AI的信任而做出错误决策，在金融、健康等领域可能造成严重后果。

面对AI的这些内在局限和外部风险，行业共识逐渐清晰：人的价值不在于被AI取代，而在于与AI协同，发挥其不可替代的判断力。AI擅长执行，而人需要负责定向。这意味着用户需要改变提问方式，从询问AI的“观点”，转向设定具体的模拟场景，让AI扮演一个“资深的深度学习理论家”或“严谨的历史学家”来提供多视角信息。在编程等复杂项目中，人的角色转变为“系统负责人”，负责定义架构、发现系统级不变量、审查和否决AI的方案，打破其固有的盲区。

归根结底，AI并非一个可以独立思考并为自己言论负责的专家。它是一个强大的模式匹配和信息生成工具，其输出的准确性和可靠性高度依赖于输入数据的质量和人类的正确引导。无节制地将其置于“专家”的神坛，并用其生成的内容反哺自身，将不可避免地导致整个AI生态系统的信息质量螺旋式下降。承认AI“没有你”的存在，承认其局限性，并将人的判断力重新置于核心位置，才是驾驭这一强大工具的正确方式。