奥尔特曼警示"控制权难以夺回":AI失控不是被抢走,而是一步步交出去

源自118位全网作者

10:37

11月7日,"奥尔特曼称人类或无法夺回AI控制权"登上国内社交平台热榜。这条警示来自 OpenAI CEO 萨姆·奥尔特曼出席播客主持人 Raj Shamani 的节目,11月5日 TechRadar 报道、6日晚 IT之家编译后进入中文舆论场。 他在节目里把 AI 走向失控概括为两条路径:"夺回"之所以成为关键词,是因为他强调的失控不是 AI 发动政变"抢走"什么,而是人类在一次次便利选择中"交出去"的东西。具体而言,一是人类逐步将控制权交给自主式 AI,二是某个人或实体垄断 AI 技术。 需要先把性质说清楚:这是一次访谈中的个人判断,不是 OpenAI 的新模型或新政策公告,警示本身不等于失控已经发生。微博凤凰网

让渡是"顺便"发生的,连他自己都承认没忍住

“AI 会逐渐失去控制,我们可能有意或无意地将控制权交给能力远超人类的系统,最终再也无法夺回。“奥尔特曼对第一种路径的警告,落点在一个渐进过程上。 它的载体是日常习惯:让 AI 帮你订票、改代码、代客服,每一次"省了事”,都意味着一段决策流程不再经过人的手。奥尔特曼今年1月在开发者问答环节讲过自己的经历——因为 AI 智能体太好用,他"两小时就交出了电脑权限”,并警告人们在缺乏必要安全基础设施时草率放权。 连最了解这些工具的人都容易被便利推着放权,普通用户的默认授权就更缺乏防线。至于"再也无法夺回",其成立前提是能力差距不可逆——这是他的判断,访谈报道中没有给出量化依据。凤凰网IT之家

第二条路径指向垄断,他开的药方是"让对手存在"

"另一种情况是,某个人、公司或国家相对于其他所有人来说过于强大。让多个不同路线的 AI 实验室相互竞争,比所有人依赖一家企业安全得多。"这是他对第二种路径的解释,也是整场访谈里最像"方案"的一段话。 他还解释过为什么总有人从 OpenAI 出走创业:利害关系太大,很多人只相信自己有能力开发这项技术。 这套说法有明确的对话对象——马斯克长期批评 OpenAI 权力过度集中,11月初的这期访谈里他也公开回应了这些担忧。 值得留意的是这层张力:开出"多实验室竞争"药方的,恰恰是市场份额与能力最受关注的实验室掌门人。这句话既可以读作安全主张,也可以读作对"OpenAI 即垄断"叙事的正面回击,两种读法建立在同一组已披露事实上,取舍留给读者。凤凰网IT之家微博

往前翻一年,他的警铃就没停过

把时间线拼起来,这次发言不是孤立的情绪输出。8月24日,他就表示担心人工智能有朝一日被少数公司、模型或个人控制,让绝大多数消费者失去话语权。 10月底做客 Stripe 播客《CheekyPint》时,他宁可要一万亿个"略超人类"的 AI 加入社会,也不要一个"智商一万亿"的 AI;对一个比最强安全研究员聪明一百万倍的模型,他不确定还敢信任任何沙箱。 几条线索指向同一个内核:他持续焦虑的是"控制权分给谁",而不是"AI 会不会造反"。而访谈的另一半同样明确——他仍然坚信 AI 会带来更好的未来,并期待下一代模型推动基础科学持续进步。财联社知乎凤凰网

对普通用户来说,“夺回控制权"不是遥远预言,而是一个当下就能观察的习惯问题:授予 AI 智能体的权限,边界是"只读辅助"还是"代我决策”。奥尔特曼自己的"两小时"体验说明,松动这条线不需要多强的 AI,只需要足够好用——这也是他把"逐步让渡控制权给自主 AI"列为第一条失控路径的原因。 至于热榜词条里那个更大的问号——人类整体是否已经站在"夺不回来"的斜坡上——目前只有警示者的判断,还没有行业共识,更没有可核验的事实。IT之家

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章