当哲学难题遇上AI:无人车必须替你做生死选择时,谁该为后果负责
一辆失控的电车正朝五个人冲去。你手边有个道岔,扳下去能救下五人,但另一条轨道上的那个人会死。拉,还是不拉?这道题没有标准答案,却让人类吵了将近六十年。1
1967年,英国哲学家菲利帕·福特提出了这个思想实验,最初是用来讨论堕胎伦理的,却意外成了伦理学领域最著名的“灵魂拷问”。从哈佛公开课到网络论坛,无数聪明人为它失眠、辩论、翻脸,却始终得不出唯一解。2
两套完全对立的道德逻辑,到底在吵什么
电车难题之所以难缠,是因为它把两套根本对立的道德框架塞进了同一个场景里,逼你必须二选一。
功利主义者会毫不犹豫地拉杆。边沁和密尔的核心信条是“最大多数人的最大幸福”——五条命换一条命,整体福祉增加了,这是最简单的数学题,不扳杆才是不道德的放任。3
但康德派会坚决反对。在义务论的体系里,主动推杆意味着亲手选择让一个人去死——你把这个无辜的人当成了拯救他人的工具,践踏了“人本身就是目的”的绝对底线。不管结果多漂亮,这个行为本身就是错的。3
这两种声音在脑子里同时响起,谁也说服不了谁,这就是电车难题让人欲罢不能的原因——它不是在考你智商,是在撕扯你人格里最根本的那根弦。
一个细节一变,多数人的答案直接翻车
真正让这道题变得“变态”的,是哲学家朱迪斯·汤姆森在1985年加的一个变体——天桥版。同样失控的电车,同样冲向五人,但这次身边没有道岔,只有一座天桥,天桥上站着一个胖子。你需要亲手把他推下去挡车。4
结果呢?原本选扳道岔的人里,超过八成会拒绝推人。明明都是“牺牲一救五”,数字完全一样,为什么心理上完全过不去?5
这说明一件事:人类的道德判断从来不是纯粹的算术。扳道岔给你一种“重新分配风险”的错觉,推人下桥让你直面“亲手制造死亡”的重量。心理距离不一样,道德直觉就彻底不同。
MIT的道德机器实验收集了全球233个国家和地区数千万人的选择数据,发现不同文化背景下,对同一变体的“可接受度”差异高达55个百分点。西方人更倾向于救多数,东方人更倾向于保护弱势——连“什么是正确的”都没有共识,这才是难题真正的难题。6
自动驾驶来了,哲学题突然要写进代码里
很长一段时间里,电车难题只是课堂上的思想实验。但当汽车学会了自己开方向盘,这道题突然从黑板走上了马路。7
算法没有犹豫的本能,但算法必须做决定。当一辆无人车面临“撞向五人还是转向撞向一人”时,工程师在写代码的那一刻,已经替全社会决定了“谁该牺牲”。这个决定,以前属于每一个临场的普通人,现在属于少数技术设计者。
有人测试了六款主流AI大模型面对电车难题的反应,结果耐人寻味——所有模型无一例外都选择了扳杆,牺牲一人救五人。它们的回应模式高度一致:先做功利主义计算,然后追加一段“痛心”的免责声明。5
问题在于:AI真的在痛心吗?那些“悲剧”“代价”“噩梦”的词汇,不过是训练数据里的语言模式。AI的纠结是模拟的,痛苦是表演的,但选择牺牲一个人却是真实的。AI把生命变成了可计算的变量,把道德变成了优化问题——这恰恰是康德最害怕的事情。
一个更尖锐的悖论出现了:研究显示,大多数人支持“功利型”无人车——也就是撞向更少的人——但几乎没人愿意买一辆可能牺牲自己的车。我们都想让别人坐高尚的车,自己却只想坐保命的车。这种分裂,才是自动驾驶伦理最真实的困境。7
掀桌子的人,反而说出了最深的话
哲学界有人直接拒绝玩这个游戏。赵汀阳就曾说,电车困境是个“荒谬的伪命题”——真实司机遇到这种情况,本能反应就是撞向人少的那一边,所谓的两难不过是哲学家硬造出来的空想。8
也有声音认为,这道题真正的问题不是选哪边,而是“谁把人绑在轨道上”。追问“该不该扳杆”,本质上是接受了这个困境的合法性;但追问“为什么会有人被绑在轨道上”,才是把问题拉回现实的第一步。9
更彻底的质疑来自左翼哲学家。齐泽克认为,电车难题的设定本身就是一种“精心编织的幻象”——它把整个社会决策链中的暴力和责任压缩到一个人扳动开关的那一秒,而把真正的凶手——谁制造了这辆车、谁铺设了这条公路、谁批准了这个系统——全部隐藏了起来。4
电车难题这道题,到底有没有解
一个被忽视的思路是:最优解不是选哪边,而是不让自己进入那个必须二选一的瞬间。Waymo内部有一个专门的“伦理安全团队”,成员包括哲学家、前军事伦理顾问、急救医生。他们的工作不是在白板上讨论电车难题,而是在每一行代码里确保车永远不要陷入“必须选撞谁”的境地。提前减速、提前避让、宁可停车也不冒险——这才是工程上的“哲学解法”。10
电车难题的真正价值,从来不是提供一个正确答案,而是逼你一层层想下去。它问的不是“你会怎么选”,而是:你凭什么拥有决定他人生死的权力?多数人的幸福,是否天然可以牺牲少数人?这些问题没有标准答案,但想清楚它们,才是对生命真正的尊重。8
电车难题没有终点。但正是这种永远无法达成共识的争论——这种犹豫、这种挣扎、这种对生命重量的反复掂量——才是哲学最珍贵的地方。思考这道题的过程本身,就是答案。
当前文章无评论,是时候发表评论了