是否存在一个特殊问题，能让大型语言模型陷入无限思考的循环，永远无法给出最终答案？这个看似哲学的提问，背后其实是寻找模型“不动点”的数学问题。通过数学推演和代码实验，验证了这一理论在技术上的可能性，揭示了模型内在的有趣特性。
智能速览
让AI无限思考的本质是寻找一个数学上的不动点。
以Qwen2.5-0.5B模型为例进行了实际操作演示。
研究发现该模型并非收缩映射，系统非常不稳定。
最终通过带有信任域截断和BB步长的Jacobian法找到了不动点。
理论上DeepSeek等大模型也存在不动点，但实际计算几乎不可能。
精华内容
如何从理论上“困住”一个AI？这需要深入到模型的数学核心，通过构建特殊问题，寻找能让模型输出与输入完全一致的“不动点”。
不动点理论
让AI无限思考，本质上是在寻找一个不动点，即模型的输出与输入完全一致。这个概念不仅适用于DeepSeek，对所有主流模型都有效。不过，直接在模型输入输出端寻找不动点存在维度不匹配问题，因此实验将聚焦于模型的隐藏空间内部，即探讨输入向量在经过模型线性变换后与自身重合的可能性。
初步探索与碰壁
实验选用Qwen2.5-0.5B模型作为演示对象。首先需要判断模型是否为收缩映射，因为这决定了不动点是否稳定且易于寻找。计算发现，该模型的增益非常大，导致系统极不稳定，并非收缩映射。这意味着通过简单的迭代方法几乎不可能找到不动点。尝试使用L-BFGS优化器直接最小化输入输出残差的方法也宣告失败。
Jacobian法的成功
最终，采用Jacobian法取得了突破。该方法通过在当前点进行泰勒展开，将非线性问题转化为线性问题来求解。针对模型增益过大导致的不稳定问题，对更新步长增加了信任域截断，将每次更新的范数限制在0.1以下，相当于一种梯度裁切。为了避免手动调参的复杂性，还引入了BB步长方法来自动调整更新步长。
理论的现实边界
经过优化，算法成功收敛，找到了Qwen2.5-0.5B模型的一个不动点。该不动点是一个非双曲不动点，其残差范数不为零。这个发现证明，在模型只考虑argmax输出的情况下，确实存在一个问题能让模型永远重复同一个输出。理论上，这一发现同样适用于更大的模型如DeepSeek，但由于计算其Jacobian矩阵的时间成本过高，实践中并不可行。
这个有趣的探索从数学层面揭示了大型语言模型的内在机制，证实了“无限思考”的理论可能性。它不仅是一个技术挑战，更启发我们思考AI模型的边界和能力。未来，随着算力提升和算法优化，这种对模型极限的探索或许会带来新的发现。
