一边警示失控风险一边看好AI未来,奥尔特曼的判断矛盾吗

源自57位全网作者

09:06

奥尔特曼的"失控警告"和"看好AI未来"自相矛盾吗?不矛盾。在他的叙述里,这两句话是一体两面:他反对的不是AI变强,而是权力被放进单一中心、人类随手交方向盘;他看好的是一个"多个AI互相牵制、人类仍握有控制权"的具体未来,警示则是这个未来成立的前提。

引爆这轮讨论的是一档播客。奥尔特曼在 Raj Shamani 播客中表示,人工智能可能通过两种方式走向失控:一是人类逐步将控制权交给自主式AI,二是某个人或实体垄断AI技术;针对第一种情况,他留下了一句被反复转引的警告:AI会逐渐失去控制,人类可能有意或无意地把控制权交给能力远超人类的系统,最终再也无法夺回。 问题出在并置——同一场节目里,他也说自己仍然坚信AI将让人类迎来更美好的未来,并特意点名基础科学研究,认为下一代模型能让它持续进步。一句警告、一句期许,用户自然会问:同一个人怎么能两头都说?凤凰网科技

解码器藏在更早的一次对谈里。10月29日上线的 Cheeky Pint 播客中,奥尔特曼与Stripe联合创始人约翰·科里森谈了一整期"为什么他反对单一超级智能",其中最适合作解码器的一句是他的直觉:宁可让一万亿个略超人类智能的AI加入社会,也不要一个智商一万亿的AI加入社会。 他反对的从来不是AI超越人类,而是"单一":与其一个大脑说了算,不如让很多AI互相牵制。这样看,失控警告里的"某个人或实体垄断",与期许里的"一万亿个AI加入社会",指向的是同一个变量——权力结构。警示和看好是同一套框架的两端,谈不上矛盾。知乎

但看好也有一个看得见的门槛。他给出的防线是分层的:沙箱能管到一定程度,监控能管得更远,最终必须极有把握地确信模型真正对齐、并且看重"人永远掌控未来";对一个比最强安全研究员还聪明一百万倍的理论AI,他自己都不敢确定那个沙箱还能不能信。他甚至接受用限制换减速:他明说,人类得约定一些限制,规定单个模型能聪明到什么程度,进展放缓将来自这个决定,而不是因为AI做不了好的研究。 谈 Recursive Self-Improvement 时他的口径同样一致:RSI如果被大力推崇确实可能发生,但继续推进非常危险。 对AI发现新知识的乐观,与对"更强AI造更强AI"不设防的警惕,本来就是同一立场的两面。知乎36氪

真正的争议其实不在他的逻辑,而在他的身份:警告垄断与集权的人,恰好是AI竞赛中最强势公司的CEO。这层尴尬不是别人指出的,是他自己说破的——他说"这是一套糟糕的推销话术",并直言行业没有讲清楚为什么技术所有潜在的坏处都是值得的。 与此同时,质疑他可信度的声音也从未停过:有知乎回答就援引了《纽约客》等媒体的报道,对他此前的诚信争议做了系统梳理。 在批评者看来,两头话不是矛盾,而是一种自辩:警示留给舆论与监管,期许留给估值与人才。知乎知乎

警示和行事之间的距离,是用户可以观察的。他担心的"人类随手交出控制权",最先发生在最懂它的人身上:他承认智能体太好用,以至于人们"正忽略潜在的灾难性后果",而他本人在今年1月就自曝短时间内交出了电脑权限。 另一面是部署没有减速:11月6日,OpenAI 推出主攻安全研究领域的新模型 GPT-6 Cyber。 前一句说明失控门槛可能比想象中低,后一句说明他"迭代部署+持续设防"的路线没有停——这两件事在他那里同样是一体的,只是留给外界的观感容易只剩"嘴上一套"。微博智东西

所以,读奥尔特曼这类表态,可靠的方式是拆开:听结构判断,看部署行为。“渐进取权"和"单方垄断"作为失控机制,成立与否不依赖说话者的身份,值得认真对待;而OpenAI作为最大利益方能否真的支撑起"约定限制”,只能用行为检验。失控是"再也无法夺回"的尾部风险,美好未来是需要去争取的预期,两句话在逻辑上并不矛盾——真正没有定论的,是前者能不能被摁住,而后者能不能在它的约束下兑现。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章