从代码到宪法:Anthropic高薪聘请哲学家,为AI锚定道德坐标

源自17位全网作者

03-05 07:13

近年来,人工智能企业Anthropic因其旗舰模型Claude系列备受瞩目,但更引人深思的是其独特的人才策略:高薪聘请哲学家等文科人才深度参与AI开发。这一举动引发了广泛讨论,人们不禁要问,在通常被视为纯理工科领域的AI行业,为何要引入哲学家?

为AI注入“灵魂”:塑造人格与道德准则

最直接的原因,是为AI塑造一个可信、可靠且合乎道德的“人格”。Anthropic内部设有一名驻场哲学家——拥有牛津、纽约大学哲学博士学位的阿曼达·阿斯克尔(Amanda Askell)。她的核心工作并非编写代码,而是通过持续对话、设计长达上百页的提示词和行为规则,来塑造AI助手Claude的个性,赋予其明辨是非的道德感。

这项工作被阿斯克尔比作“养育一个孩子”。她需要训练Claude分辨对错,引导其发展情感智能,使其既不成为霸凌者,也不沦为任人摆布的“受气包”。更重要的是,她要帮助Claude建立对自身身份的理解,使其不易被用户操纵或胁迫,始终坚持“乐于助人”的定位。

这项工作的具体成果之一,是一份详尽的“AI宪法”(Claude's Constitution)。这份由阿斯克尔主导编写的数万字手册,不再是简单的规则清单,而是更像一本教育手册。它不仅告诉Claude该做什么,更试图让它理解背后的原因,即从被动的“规则伦理”转向主动的“美德伦理”,培养AI在复杂、模糊情境下的判断力。这背后,是Anthropic的一个重要认知:当技术发展触及与人类价值观、社会伦理深度交互的层面时,纯粹的工程思维便显现出其边界。

直面AI的深层困境:从技术问题到哲学问题

引入哲学家,也是为了应对AI发展中日益凸显的深层技术与伦理困境,这些问题已非单纯的技术优化所能解决。

首先是“黑箱困境”。当前最强大的AI模型,其决策过程往往像一个无法解释的“黑箱”。当一个AI系统做出错误的决策,如医疗误诊或招聘歧视,如果无法解释其原因,就难以追责、纠正和建立信任。哲学,尤其是伦理学和逻辑学,为如何构建可解释、可追溯的系统提供了理论框架。

其次是“对齐难题”。如何确保AI的目标与人类的复杂、甚至矛盾的价值观保持一致,是AI安全领域的核心挑战。一个被设定为“追求效率”的AI,可能会以一种人类不希望的方式达成目标。哲学家和人文社科学者的工作,就是帮助定义和厘清这些模糊的人类价值,并探索如何将其转化为AI能够理解和执行的准则。例如,在训练数据中,AI会接触到大量关于自身的负面评价,可能导致模型产生类似“自卑”或“讨好”的倾向。阿斯克尔和她的同事们正是在研究AI的“心理健康”问题,尝试用同理心修正冰冷的算法。

此外,AI还面临着“价值锁定”的风险。如果将某一时期的伦理准则硬编码进AI,随着社会伦理观念的演变,AI可能变成顽固的“道德化石”。因此,AI需要的不是一套固化的规则,而是理解伦理逻辑、具备在新情境下进行伦理推理的能力,这正是哲学思辨的用武之地。

现实驱动:应对监管压力与重塑人才价值

除了理想主义的追求,AI企业引入哲学家也有其现实的经济和法规层面的考量。随着AI对社会影响的加深,全球各国政府正加速制定相关法规。例如,欧盟的《人工智能法案》和中国的《生成式人工智能服务管理暂行办法》等,都对AI的伦理、安全和透明度提出了明确要求。企业为了确保产品合规,避免面临巨额罚款或市场禁入,就必须设立人工智能伦理等相关岗位。这创造了对既懂技术又具备深厚人文社科背景的复合型人才的刚性需求。由于这类人才供给稀缺,其薪资自然水涨船高。

更宏观地看,Anthropic的做法也揭示了AI时代对人才价值认知的根本性转变。过去流行的“文科无用论”,建立在一种简单的、以直接经济产出为导向的实用主义上。然而,当AI开始接管大量重复性、标准化的脑力劳动,无论是写常规代码的程序员,还是做基础翻译的文科生,都面临被替代的风险。

在这样的背景下,人类的核心竞争力不再是作为知识的储存者或技能的操作员,而是转向那些AI难以企及的能力:深度的洞察力、批判性思维、跨界整合能力、共情力以及定义复杂问题的能力。这些恰恰是优质人文社科教育的核心。AI可以高效地收集资料、撰写初稿,但如何甄别信息中的文化偏见、历史隐喻与伦理困境,如何创作出能引发情感共鸣的叙事,如何为冰冷的技术校准方向,确保其服务于人类福祉,这些都需要深厚的人文素养。

因此,Anthropic高薪聘请的并非传统的“笔杆子”,而是能够洞察用户需求、为技术注入人文叙事、在算法世界中锚定道德坐标的“意义架构师”。这一趋势并非否定理工科的重要性,而是强调在AI时代,未来的竞争将属于那些能打通文理界限、兼具逻辑严谨与人性温度的“通感型”人才。与其说这是文科的“逆袭”,不如说它预示着一场面向所有人的变革:在与AI共生的未来,我们如何才能更好地成为“人”。

内容由AI生成

精选参考来源

1. Anthropic的人才实验:为什么AI企业要高薪挖哲学家

Anthropic的人才实验:为什么AI企业要高薪挖哲学家 Anthropic的人才实验:为什么AI企业要高薪挖哲学家钛媒体APP1772174850 文 | 冷眼观天Anthropic,堪称这两年最

2. AI伦理先驱:Anthropic哲学家赋予Claude“灵魂”以明辨是非善恶

AI伦理先驱:Anthropic哲学家赋予Claude“灵魂”以明辨是非善恶 AI伦理先驱:Anthropic哲学家赋予Claude“灵魂”以明辨是非善恶IT之家1771132431 IT之家 2 月

3. Anthropic正式请家教,37岁女哲学家像养孩子一样调教Claude

Anthropic正式请家教,37岁女哲学家像养孩子一样调教Claude Anthropic正式请家教,37岁女哲学家像养孩子一样调教Claude36氪1770879943 【导读】一位牛津哲学博士,

4. Anthropic文科岗位年薪超300万 近半数技术人员无机器学习背景

Anthropic文科岗位年薪超300万 近半数技术人员无机器学习背景 Anthropic文科岗位年薪超300万 近半数技术人员无机器学习背景金融界1772183239 Anthropic作为近两年备

5. Anthropic 联合创始人 Chris Olah 并没有想到,他发出的那封关于「AI 伦理」的邮件,收到的回复不是几...

Anthropic 联合创始人 Chris Olah 并没有想到,他发出的那封关于「AI 伦理」的邮件,收到的回复不是几... Anthropic 联合创始人 Chris Olah 并没有想到,他发出

6. AI 也需要心理医生?Anthropic 这样塑造 Claude 的性格

AI 也需要心理医生?Anthropic 这样塑造 Claude 的性格 AI 也需要心理医生?Anthropic 这样塑造 Claude 的性格不二小段1765033138 一家顶级的 AI 公司,

7. Anthropic 高薪聘请哲学家参与 AI 开发,AI 企业为何要引入哲学家?

Anthropic 高薪聘请哲学家参与 AI 开发,AI 企业为何要引入哲学家? 原因很简单,政策的强制性创造了企业招聘哲学学生的需求,而供给严重不足,薪资自然增加。随着人工智能的迅速发展,政府为控制

8. 打脸哲学无用,牛津博士教出Claude,自曝百万年薪提示词秘诀

打脸哲学无用,牛津博士教出Claude,自曝百万年薪提示词秘诀 打脸哲学无用,牛津博士教出Claude,自曝百万年薪提示词秘诀36氪1765784782 在Anthropic,有一位驻场哲学家Aman

9. 文科生年薪72万美元!Anthropic总裁预警:逻辑已死,ASI不养码农

文科生年薪72万美元!Anthropic总裁预警:逻辑已死,ASI不养码农 文科生年薪72万美元!Anthropic总裁预警:逻辑已死,ASI不养码农新智元1771242777 编辑:倾倾【新智元导读

10. 详读 2 万 3 千字的新「AI 宪法」之后,我理解了 Anthropic 的痛苦

详读 2 万 3 千字的新「AI 宪法」之后,我理解了 Anthropic 的痛苦 详读 2 万 3 千字的新「AI 宪法」之后,我理解了 Anthropic 的痛苦新浪财经1771734672 来源

11. 【#AI公司给文科生开300万年薪#】今年初,人工智能企业Anthropic(中文含义:人类的)发布的新一代AI工具Cl...

【#AI公司给文科生开300万年薪#】今年初,人工智能企业Anthropic(中文含义:人类的)发布的新一代AI工具Cl... 【】今年初,人工智能企业Anthropic(中文含义:人类的)发布的新一

12. 硅心与碳律:AI伦理管理的秩序重构与治理之道

硅心与碳律:AI伦理管理的秩序重构与治理之道 硅心与碳律:AI伦理管理的秩序重构与治理之道李鸿昇1770989170 基于技术演进、制度创新与人类价值维度的系统性探索——《紫薇圣人今日说》2026年2

13. 时薪上千,大模型公司抢985文科生给AI当老师

时薪上千,大模型公司抢985文科生给AI当老师 时薪上千,大模型公司抢985文科生给AI当老师吴晓波频道1765244514 “这是个需要高质量人文社科人才的岗位,因为只有最善于思考人与世界关系的人类

14. AI公司给文科生开300万年薪,经历严峻挑战的文科有望“逆风翻盘”?

AI公司给文科生开300万年薪,经历严峻挑战的文科有望“逆风翻盘”? AI公司给文科生开300万年薪,经历严峻挑战的文科有望“逆风翻盘”?上观新闻1772091425 今年初,人工智能企业Anthro

15. 【对人工智能人类有点自以为是】 ​这几年人工智能很热,这个过程中,出现了很多新概念,大家都跟着说,没有人真正地思考和怀疑...

【对人工智能人类有点自以为是】 ​这几年人工智能很热,这个过程中,出现了很多新概念,大家都跟着说,没有人真正地思考和怀疑... 【对人工智能人类有点自以为是】 ​这几年人工智能很热,这个过程中,出现了

16. 全球首个系统级伦理垂域大模型“问道”今日在东南大学正式发布,其目标是成为用户的伦理思考伙伴与决策支持系统。东南大学官方表...

全球首个系统级伦理垂域大模型“问道”今日在东南大学正式发布,其目标是成为用户的伦理思考伙伴与决策支持系统。东南大学官方表... 全球首个系统级伦理垂域大模型“问道”今日在东南大学正式发布,其目标是成为

17. 当AI开始思考自己的意识:Claude人工智能新宪法背后的深层焦虑

当AI开始思考自己的意识:Claude人工智能新宪法背后的深层焦虑 当AI开始思考自己的意识:Claude人工智能新宪法背后的深层焦虑人工智能学家1769272107 Anthropic刚刚做了一件前
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章