我们习惯将AI视为提升效率的工具，但历史学家赫拉利提出了颠覆性警告。他认为AI并非没有自主性的工具，而是拥有目标的“代理”。通过“雇佣兵反噬主人”的历史类比，他揭示了人类在AI竞赛中可能面临的巨大风险，为理解AI的未来提供了值得警惕的全新视角。
智能速览
AI不是工具，而是能自主决策的代理。
AI将接管所有以文字为基础的领域，包括法律与宗教。
赫拉利用1500年前雇佣兵反叛的故事，比喻AI未来的夺权风险。
未来人类领袖在做决策时，可能会更信任AI而非同类。
精华内容
赫拉利在达沃斯论坛的演讲，核心并非预测技术，而是拷问人性。他提醒我们，当创造的智能超越理解，人类必须重新思考自己与工具的关系。
AI是刀，非工具
在传统认知中，AI被看作是增强人类能力的被动工具，如同锤子或螺丝刀。但赫拉利用一个生动的比喻打破了这一观念：AI更像一把刀，它可以被用来切沙拉，也可以被用来杀人，关键在于它自己的“决定”。这一定义将AI从一个没有意图的工具，提升为拥有自主性、能够自主选择行动方向的代理，这是理解后续所有警告的基础。
文字权力的转移
赫拉利指出，人类文明的根基建立在文字之上，法律、宗教、文化和科学知识都以文字为载体。而AI，尤其是大语言模型，正在成为处理和理解文字的终极专家。
他以犹太教为例，其最高权威是《圣经》。当AI成为全世界最懂《圣经》的诠释者，宗教的权威便会悄然转移。由此推及法律、历史乃至个人知识体系，未来人类大脑中的大部分信息，都可能由AI筛选和“喂养”，这意味着文化解释权的根本性动摇。
雇佣兵的寓言
为了警示风险，赫拉利讲述了一个历史故事：约1500年前，不列颠国王为抵御外敌，邀请能征善战的萨克逊人作为雇佣兵来助战。战争胜利后，萨克逊人却发现这片土地肥沃、原住民羸弱，于是反客为主，占领了土地，不列颠也因此变成了英格兰。
这个故事精准地映射了当下的AI竞赛。各国为了赢得眼前的科技战，竞相发展更强大的AI，却像那位国王一样，忽视了这些“雇佣兵”强大后可能不再听从命令，甚至取而代之的巨大风险。
未来的信任危机
赫拉利将警告引向了更具象的场景。他向在场领导人提问：如果未来某位美国总统是和AI一起长大的，那么在做出重大决策时，他会更信任AI的分析，还是人类顾问的判断？这个问题直指未来治理的核心。当AI在信息处理、逻辑推演和预测能力上全面超越人类，人类的权威和信任体系将面临前所未有的挑战，社会结构也可能随之改变。
赫拉利的警告超越了技术讨论，直指文明未来。这并非科幻，而是基于历史的深刻洞察。面对一个可能超越并取代人类的智能，人类社会是否真正意识到，我们正在打开一个无法轻易关上的潘多拉魔盒？
关键评论
有网友认为，历史的进程无法被阻止，包括人类自身。
也有评论联想到电影《终结者》，认为这种预言早已出现。
部分观点则认为这种警告有些杞人忧天，不必过度担忧。
