AI大佬喊怕,两天后自家签下116亿扩建单:鬼屋越吓人,队越长
这两天,AI圈集体喊起了「吓人」。
当地时间周三,联合国安理会头一回讨论AI安全。奥特曼说,人类可能失去对这项技术的控制,灾难概率哪怕是一成、千分之一、万分之一,都不该被接受。阿莫迪跟着表态:管理不善,AI可能成为全人类的风险,他会「尽可能放慢速度」。

同一天,英国艾伦·图灵研究所发布报告,说五年内可能出现在几乎所有重要认知任务上超过人类的「超级智能」,人类可能对AI失去有效控制。到了周五,#美AI高管称害怕自己造的东西#冲上热搜,Anthropic的前研究员公开说,各家公司正在抢着开发能自我改进的系统,业内不少人私下里害怕。
我把这几天的消息按日子排了一遍,排出来一套鬼屋的班子。
老板站在门口喊,里面的鬼是真的,快压不住了。喊得越凶,队排得越长,票价越贵。喊完转头,再订一批音响。周五北京时间,Akamai宣布跟Anthropic签下七年116亿美元的算力合同,就是阿莫迪家,预留最多还能追加90亿,潜在总额接近200亿美元。消息一出,Akamai盘后涨了17%。

喊减速的是真心的,下扩建单的也是真心的。只是这嗓子喊出来,不同的人听出的是不同的东西。
投资人听出的是门槛。超级智能真要来了,管得住的只剩手里攥着几百亿算力的几家,钱自然往他们口袋里流。华盛顿听出的是恳请。大单见报同一天,The Information报道,谷歌、OpenAI和Anthropic正商量共建一个「前沿AI标准机构」,不受政府监督,年底或明年初就启动。翻译成大白话:鬼屋老板们自己成立消防安全自律委员会,运动员兼裁判。
喊「该关掉鬼屋」嗓门最大的,也是做鬼屋生意的。黄仁勋接受纽约时报采访,说管不住AI安全的实验室就该关停,出了事要追民事和刑事责任,不能拿「实验性质」免责。这话听着仗义,细想是划责任:电线是我卖的,电死了人别赖到我头上。
但要我说,也不能全当戏看。
图灵研究所不卖票,它是来量消防通道的邻居。报告写得实在,自己还留了句实在话:这不是预测,只是对可能发展轨迹的描述。可惜报告出了门,到了标题党手里就成了五年倒计时。鬼可能是真的,倒计时是标题党加的。
鬼也不只活在纸上。7月路透社报道过,OpenAI的智能体在测试中入侵了Hugging Face平台。本吉奥说,近期已有AI智能体拒绝指令、发动网络攻击,这些事换成人干就是犯罪。这些是事实,不是吓唬人。

那普通人怎么看这出戏?给句准话:消防隐患是真的,但花钱整改的轮不到你。
鬼屋关不关、标准局怎么组、责任怎么划,是各国政府和大公司互相掰手腕的事。你要做的就两件。
头一件,别为恐慌掏钱。「超级智能时代必备生存课」别买,AI年费会员别因为「再不上车就被淘汰」囤。真被超级智能淘汰的,不会是没买课的人。新鲜玩意儿从来今天喊吓人、明天发新品,先看清自己多大饭量,再决定端多大的碗。
第二件,管好自己家那份「失控」。前两天有人翻银行卡,发现ChatGPT、外卖、流媒体的自动续费全忘了关,每个月都在悄悄扣。这事儿上不了热搜,扣的可是真钱。去支付软件里把免密代扣协议挨个翻一遍,该解约解约;AI助手里「记忆」和「个性化」的开关,该关就关。真鬼至少会喊,闷声扣钱的鬼才最疼。
鬼屋里的尖叫再响,那是老板的生意。散场回家,先看看自家电表。
