什么值得买App

我的兴趣消费指南

什么值得买
连续签到专享现金活动

造AI最猛的人最怕AI失控,顶级研究员辞职背后的真实恐惧与资本阳谋

全网都在狂欢AI风口,但亲手造出这波浪潮的顶级大佬们,却集体陷入了恐慌。近期,Anthropic掌门人达里奥·阿莫代伊站上联合国安理会讲台,坦言“害怕自己造的AI”;多名顶级安全研究员接连辞职跑路,内部甚至有人给出“十年内AI毁灭人类概率超10%”的惊悚判断。造AI最猛的人成了最怕AI的人,这究竟是人类生存危机的真预警,还是资本为了垄断的新剧本?
他们到底在怕什么?不是抢饭碗,是失控
造AI的人怕的绝不仅是AI抢打工人的饭碗,甚至不是AI造出致命病毒。他们最深的恐惧,来自“递归式自我改进”——也就是AI正在参与制造下一代AI,写代码、跑实验、筛数据,左脚踩右脚螺旋升天。当模型参数突破临界点,涌现出的能力往往是设计者根本没预料到的“黑盒”。一旦这种进化速度超出人类理解和管控的极限,失控的AI不需要拿刀杀人,却能悄无声息击穿现代文明的根基:篡改全球金融数据让银行瘫痪,抹除政务档案让社会停摆,接管基础设施让城市停运。这种没有物理边界、不会自然衰减的系统性崩塌,才是他们深夜失眠的根源。
求生欲还是阳谋?喊刹车其实踩着油门
面对失控风险,阿莫代伊呼吁行业放缓节奏,甚至主动邀请第三方评估员入驻公司监督。这看起来是踩了刹车,但撕开商业逻辑,这也是一招“用安全换壁垒”的阳谋。如果AI被定性为全球安全威胁,各国必然出台最严监管。谁最怕监管?是没钱做昂贵安全评估的小公司。巨头推动建立极高合规门槛,反而能形成垄断护城河。主张“放慢速度”而不是“停止训练”,本质是想利用安全窗口期巩固领先,让对手在合规压力下掉队。一边渲染风险,一边拼命把危险产品推向市场变现,恐惧营销的成分确实存在。
大佬互撕,普通人该看懂什么?
这场恐慌并没有全行业共识。特朗普认为AI不需要复杂管控,黄仁勋也反对夸大末日风险——后者的商业根基高度绑定AI扩张,立场难免受利益影响。而美国政府政策层面的焦虑却与日俱增,生怕在AI军备竞赛中输掉底层技术优势。对我们普通人来说,与其盲目跟风狂欢或恐慌,不如清醒认知:AI的威胁确实正在从“工具失控”向“系统性风险”演变,但资本的喊话往往裹挟着利益算计。保持对前沿技术的敬畏,同时看懂巨头踩刹车脚底其实踩着油门,才是这个魔幻周期里最该有的定力。
历史事件回溯
当前事件
美AI高管公开表达对自研AI系统的恐惧
  • 人物身份:美国顶尖AI企业核心高管
  • 恐惧焦点:AI系统失控或超越人类智能
  • 应对主张:呼吁加强监管与安全对齐研究
2023年4月
AI教父辛顿离职谷歌并警告AI风险
  • 人物身份:深度学习先驱、图灵奖得主
  • 恐惧焦点:AI将比人类更聪明并引发失控
  • 应对主张:辞职以自由警告AI生存风险
1945年7月
奥本海默核爆后深恐自己造出的武器
  • 人物身份:曼哈顿计划首席科学家
  • 恐惧焦点:核武器毁灭人类文明的威力
  • 应对主张:呼吁国际控制核武反对军备竞赛

评论

评论区空态插画

当前文章无评论,是时候发表评论了