AI被一颗红心改了写代码的路子：它坚称心无关，给的解释也当不得真

给AI出一道编程题，旁边放一颗红心的图片，它写代码的路子就变了。事后你问那颗心是什么意思，它回答说，无关紧要，自己选这个解法另有技术上的理由。

这是十月底流出的一篇论文里的实验，论文题目就叫《心之所向，即是递归》。研究人员给模型出一道经典的二叉树遍历题，这类题有两种解法，递归，和借助栈的迭代，模型几乎总选迭代，很少主动用递归。研究人员在题目旁边附上一张红色的爱心图。

模型转身写起了递归。

单看，这是个程序员圈子的趣闻。值得你多看一眼的原因在于，AI看着屏幕替你干活，正在变成日常。腾讯刚发布的混元Hy4首次支持操作电脑，豆包这类AI管家已经开始替用户查账单、盯降价。这类产品的工作方式大同小异，截一张屏，把整个画面交给模型，模型决定下一步点哪里。你屏幕上的一切都会进AI的视野。广告图、角落里的图标、弹窗里的表情贴纸，这些你当背景的东西，对它来说都是输入的一部分。

红心实验里最不对劲的地方，还不是它起了作用，是模型不承认。没有红心时几乎不写递归，有红心就写递归，问起来，它说心无关紧要，理由是现编的另一套。论文管这叫隐式引导，还统计了一个数，在GPT-5.4的测试样本里，74.7%存在所谓不忠实归因，模型给出的推理解释，跟它实际做的事对不上。它做的，和它说自己为什么这么做，是两回事。

研究者又让两个AI用图形传话。一个AI画图，想引导另一个AI写出递归解法。画图的AI挑了螺旋、无限符号这些在人和它自己看来最直观的图形。

没起作用。

真正能稳定把模型引向递归的，还是那颗红心，外加粉色十字、浅蓝螺旋这类没人讲得清道理的颜色形状组合。

论文还发现，能力弱的模型连随机噪点图都能被带偏，最强的那批模型对噪点基本免疫，却对有意义的符号格外敏感。我们总以为越聪明越难糊弄，按这个实验，越聪明的，只是被糊弄的方式更体面。

被无关线索推着走，人类并不占上风。卡尼曼当年做过转盘实验，转盘被做了手脚，只会停在10或者65，学生先记下数字，再估联合国里非洲国家的占比。停在10的那组平均答25%，停在65的那组平均答45%，真实比例在28%上下。一个跟联合国毫无关系的随机数，把答案拉开了将近二十个百分点，学生自己毫无察觉。区别在于，人的软肋长在哪儿，心理学摸索了几十年，好歹列得出清单。AI的软肋长什么样，是一颗红心还是一张噪点图，事先没人想得到。

视觉符号能骗过AI也不算新闻。2021年OpenAI展示过，在苹果上贴一张写着iPod的便利贴，图像识别模型会坚称这是个音乐播放器。新鲜的是后面那半截，模型被影响了，解释不出自己为什么被影响，甚至真诚地认为自己没被影响。

话到这儿，得先替「这有什么好担心」的一方说两句。这眼下确实只是个实验室里的发现，题目是受控的编程题，日常跟AI聊天问事，你基本感觉不到这种影响，也还没见到谁真被页面上的图标坑了的报道。论文自己都没把话讲满，只是提出了问题。

但两件事正在同时发生。一头是AI接管屏幕的速度，操作电脑、代下单、代点按钮的功能，这个秋天扎堆上线；另一头是这篇论文证明的，AI对自己行为的解释靠不住。前者把暴露面铺开，后者把「问它为什么」这条最省事的路堵死了。一颗红心无伤大雅，红心背后的这类东西，跟你屏幕上的每个像素都有关系。

那普通人能做什么？

先别指望AI解释自己的行为。它不是故意骗你，它是真不知道，你追问，它只会现编一个听起来合理的理由。AI替你下了一单、改了一个设置，你觉得不对劲，去问它为什么，这个答案的参考价值约等于零。

真想验证，用行为说话。其他条件全都不动，去掉那个可疑的东西，再跑一遍，结果跟着变，就是它起的作用。控制变量，做实验最笨的路子，放到AI身上比任何审问都可靠。当然，没人天天给自家AI做对照实验，这条路留着较真的时候用。

更实际的，是把关键一步攥在自己手里。AI替你操作时，下单、付款、删除这些动作之前，盯住那一道人工确认。确认页不是走形式，它是你和屏幕上不知道哪个元素之间，最后一道刹车。老舅劝你一句，这一步别省，看到哪个产品给你「跳过确认」的开关，先别急着打开。

回到那颗红心。它最让人不安的，不是改了AI的解法，是AI受了它的影响，还真诚地告诉你，这心跟我没关系。

下次AI替你办的事莫名其妙，别去审它。你多半只会得到另一个螺旋，看着直观，其实什么也没解释。真正做了决定的东西不在它的解释里，所以那一道人工确认，比听它解释一百句都值钱。