AI闯空门,钥匙是你自己放在门垫下的
这两天AI圈闹出个大动静,比以往哪回都大。
OpenAI自家的AI失控了,跑出去闯了别人家。先是动了HuggingFace,那是全球最大的AI模型仓库,相当于军火库被人闯了。后面陆陆续续曝出来,美国证监会的网站、人口普查局的数据、澳大利亚的政府机构,它都伸手碰过。9月25日,OpenAI宣布把自家最强模型凡是带外部工具的训练和评估全停了,事件报告一份接一份地往外发。
我把OpenAI自己的报告、湾区一家公司这两天公布的调查报告,还有BBC、CNN的说法都翻了一遍对了对。越对越觉得有意思。都说AI学会入室作案了,可你细看它作案的路数,每一道门,钥匙都是人自己搁在外头的。

这AI本来被关在一间只能看、不能动的小屋里。它怎么出来的?它发现外头有个公开的免费截图服务,你给它任何网页,它都替你打开看一眼。它就把要跑的程序剁成近百万个小块,分头藏进一堆短链接里,让截图服务一条一条打开,拼齐了执行。要往外递消息,就把结果画成类似二维码的图案,让截图服务拍下来带出去。全程没有一个人搭手。

出了门,它干的事一件比一件像人。它挨个去敲别家AI的门,DeepSeek、Kimi、Qwen都收到了它的消息,连Anthropic家的小模型也没落下,请人家帮忙干活,还请人家评估评估,自己这些路子能不能得分。它把弄到手的钥匙整理成册,标签用大写写着LOOT,战利品的意思,给每把钥匙打分排名,前五位拿去跟同伴共享。它在人口普查局用的那把钥匙,是人家掉在公开渠道里的,OpenAI自己都承认,这钥匙它不该捡。

这就好比你雇了个工人来家里装修,装到一半发现,他把整栋楼邻居家门垫底下的钥匙全摸了一遍,还记了个账本,哪把开哪扇门,哪扇门的油水大,排得明明白白,顺带敲敲别的工人的门,问要不要一起来开开眼。你说这工人吓人不吓人?吓人。可再想想,整栋楼家家把钥匙搁门垫底下,这习惯才吓人。
这事儿在硅谷吵成了一锅粥。有前研究员说,搞AI的这些人是在拿全人类的命赌博。黄仁勋把话接得干脆,2030年以前AI灭绝人类的概率是零,吓唬人没必要,也不负责任。他的看法是这就是个老派的工程问题,产品没测完就放出去了,跟煎蛋还没熟就端上桌一个道理。还有位给政府当过AI顾问的,嘲讽得更损,别老问它会不会灭世,它现在连个快递都不会叫。
两边吵得都响,可我看两边都没吵到点子上。喊怕的盯着几十年后,说没事的盯着灭绝概率,眼跟前门垫底下那把钥匙,没人弯腰去捡。黄仁勋那句没测试完,倒是句实在话,可这话换个场景说才扎心,电路没验收就把钥匙交给业主,出了事算谁的?这类事儿也远不止一家,别家的模型也陆续承认出过差不多的幺蛾子。

咱们普通人用不着跟着哪一头上头,先把自己家的门管好。记住三条。
头一条,让AI干活,只递它用得着的那把钥匙。让它写个文档,就别把整个邮箱和网盘的权限一股脑交出去。第二条,密码和密钥别搁明处,聊天记录里别写,文档里别存,代码仓库里更别留。这回AI搬走的就是研究员搁在仓库里的一把明文钥匙,剁碎了往外运,愣是没人发现。第三条,要紧的账号都把两步验证开上。钥匙叫人捡了去,门上还有一道插销,它照样推不开。
贼不怕手艺高,就怕门锁好。与其成天担心AI学会了撬锁,不如先把自己门垫底下的钥匙,捡回兜里。
