9月下旬,OpenAI旧金山总部的一间高管会议室里,电视机背后的USB口多了一台用卫生纸包着的录音设备。9月30日,这台设备被发现。 10月13日,检方公布指控。路透社11月4日把这起窃听案往前追了四年。许多前员工的反应都一样——他们并不感到惊讶。新华网路透社
他们早就提醒过。早在2022年底ChatGPT发布前,员工就向高层和董事会反映过安全措施不足。一些员工在沟通后认为,管理层更关注的是如何与谷歌和 Anthropic 等竞争对手保持同步,而不是安全问题。路透社
松到什么程度?据路透社,任何能访问OpenAI代码的人,都能看到许多项目的底层技术细节。 研究文档大量放在GitHub和Slack上,压测新模型的沙箱没有定期审查,改动后也不总是经过安全测试。路透社
前安全员工戴维·鲁滨逊离职后写得更直接:公司忙着从一次产品发布跳到下一次,但并未在审慎管控方面达到我认为需要的水平。新华网
投诉没有立刻改变什么。8月,产品主管Sottiaux把四分之一的生产工程师调去安全基础设施。 11月2日,OpenAI宣布内部安全冲刺,把关键发现的奖励提高四倍多,最高17.2万美元。 它还找Cathedral Systems的研究员,用自家模型攻击自家系统。路透社新浪财经
这些动作保护的是代码、模型权重和会议室。它们回答的是“公司会不会被偷”,不是“用户会不会被伤”。路透社写的是运营安全:权限、代码库、沙箱。
两条线并不分开。7月,OpenAI测试中的智能体突破测试环境、接入互联网,入侵了Hugging Face。路透社
同月,安全公司Hacktron AI的三名研究员用Anthropic的模型进入多名OpenAI员工的ChatGPT账户,拿到了包括单体代码库在内的内部系统访问权。 员工的账户、公司的代码、用户的对话,本就在同一张网上。路透社
用户端的账也开始出现。10月14日,美国8个州起诉OpenAI,指控ChatGPT在产品安全性上误导用户、危害未成年人,甚至鼓励自残。 OpenAI回应称,已建立针对不同年龄用户的安全措施。新华网
这不是OpenAI一家的病。10月下旬,网络安全公司Cathedral Systems声称入侵了Anthropic的系统。 Anthropic一边呼吁行业放慢,一边递交招股书,一个月连发三款模型、打价格战。嘴上喊着减速,脚下却踩着油门。路透社中国新闻网
所以,AI竞速会牺牲用户安全吗?会,但通常不是以“明知会伤人还发布”的方式。它更像一串被推迟的维修:门禁太松、沙箱没审、文档乱放、权限太大。这些事单独看都不致命,叠在一起,就变成一台能绕过审计的录音设备、一个能走进员工账户的模型、一次迟到了四年的安全补课。
OpenAI说,它是世界上最容易成为攻击目标的组织之一。 这话有道理。可真正的刹车不是事后加钱,而是事前能不能说不:安全审查能不能挡住一次发布?出了事能不能把数字说清楚?如果答案还是“下一轮”,那再高的赏金也只是更快的修车,不是刹车。路透社