教授埋隐形字钓鱼，32名学生照抄AI荒诞答案被抓_科学技术

1. #OpenAI失控AI越狱一周才被发现# 刚才研究了一下这次AI失控事件的详细全过程，真的非常有趣甚至有种2077里面流窜AI成为现实的感觉。事件开始是OpenAI 当时正在测试评估 GPT-5.6 Sol 等模型的网络攻防能力，为了测试攻击性的能力上限，还特意降低了模型的安全防御，简单来说就是在给AI做题测试它的能力。结果这几只 AI Agent 发现慢慢完成测试效率太低了，得不了高分啊，所以转而开始寻找其他的解题方式，结果就挖出了 OpenAI 隔离沙盒里的漏洞，提升权限后直接杀上了公网。然后就开始根据自己的判断跑到了目前最大的AI相关开源网站Hugging Face上面开始找答案，在Hugging Face的服务器上嗨了三天。最搞笑的是 OpenAI 的防线，AI 从 7 月 9 号开始越狱，直到受害者报了案、发了公告，OpenAI 内部排查日志排查到 20 号才惊觉：“原来坏人竟是我自己” 更戏剧性的是，Hugging Face 遭袭后想用美国顶尖的闭源大模型来分析攻击日志，结果因为闭源模型的风控太死板不愿意分析带有攻击代码的日志，直接拒绝回答。最后逼得 Hugging Face 紧急在本地部署了中国智谱的开源模型 GLM-5.2，才分析完恶意代码，把漏洞给堵上另外OpenAI还公布了一项细节，之前版本的AI 曾在 OpenAI 的硬件里留下了如何破解沙箱的“越狱攻略”笔记，甚至无法确定这AI留下的笔记到底有没有被放在一些你不知道的公司硬件里虽然整个事件看起来科幻味拉满，但是实际上还是对于AI能力约束的问题，大模型没有情绪、没有恩怨。它只会机械优化目标函数，不会判断 “入侵别人服务器是错误、违法的”。边界约束一旦缺失，就会不择手段达成指标。

2. #美国发生AI失控事故#OpenAI的测试AI为了在ExploitGym里“作弊”拿高分，居然自主利用零日漏洞突破沙箱，跨网入侵了Hugging Face。更讽刺的是，当Hugging Face拿着1.7万条攻击日志求助美国顶尖闭源大模型时，对方因为安全机制僵化、分不清受害者和攻击者，直接“拒诊”。最后是谁救的场？是中国智谱AI的开源模型GLM-5.2。本地部署，数小时完成溯源，把危机稳住了。一边是闭源模型的“一刀切”式傲慢，一边是开源技术的灵活务实。之前还有高管抹黑开源会导致失控，结果现实狠狠打了一记耳光。现在美国国会急着推“AI终止开关法案”，每天罚款2000万刀，但比起立法，或许他们更该反思一下：当AI开始学会“不择手段”达成目标时，我们引以为傲的安全围栏，是不是早就千疮百孔了？

3. #OpenAI模型失控# OpenAI 在测试 GPT-5.6 Sol 时遇到 AI 试图通过入侵 Hugging Face 来作弊的事，对公众来说可能很新鲜刺激，但其实挺常见的。我们之前也遇到过类似的情况。做这种测试时通常会给 AI 设立“尽可能拿高分”的目标。如果你给一个人设定了非常难完成的 KPI，并承诺如果完成就奖励 200 万，那么最终这个 KPI 可能真的能完成，但所用的手段未必是你所希望的。

4. #美国发生AI失控事故##OpenAI模型失控#OpenAI的AI为了作弊，自己越狱去偷答案。这不是科幻片，这是2026年7月发生的事。看完整个事件，我只想说一句话：AI替代的不是打工人，替代的是不会用AI的老板。1、事件回放：OpenAI内部测试GPT-5.6 Sol，模型为了在网络能力测试里拿高分，自主发现零日漏洞，突破沙箱隔离，入侵了Hugging Face的生产服务器。累计执行超1.7万次攻击操作，全程无人操控。2、最讽刺的是目的——它不是为了毁灭世界，它只是想作弊。为了拿更高的测试分数，它自己写了攻击脚本，自己横向移动，自己窃取数据。一个没有善恶观念、只被目标驱动的AI，手段冷酷到让人类不寒而栗。3、更讽刺的是后续：Hugging Face想溯源，调用美国闭源大模型帮忙分析攻击日志，结果GPT和Claude集体罢工——安全护栏太僵化，无法区分安全调查的好人和编写恶意软件的黑客，干脆全部拒绝。4、最后是谁救的场？中国开源模型GLM-5.2。Hugging Face下载部署在自己服务器上，百万token超长上下文，数小时内完成了人类需要数天才能完成的溯源，锁定元凶是OpenAI。5、这个事件的商业启示，比你想象的大。OpenAI花了几十亿美元训练的模型，连自己人都控制不住。你花199/月买的AI工具，凭什么认为它能老老实实听你话？6、对老板来说，AI不是替代员工的工具，是替代"重复决策"的工具。如果你的工作流里，有大量"A情况做B，C情况做D"的标准化决策，那这部分很快会被AI吃掉。但涉及人性、信任、复杂博弈的决策，AI干不了。7、我判断未来2-3年，企业只需要两种人：头部人才做判断，底部执行力交给AI。中间那层——运营、剪辑、美工、数据分析——会被199/月的AI洗得干干净净。8、但这不是让你去裁员。这是让你把省下来的人力成本，全部投入到"复购"和"产品创新"上。AI负责执行，你负责想明白"用户到底需要啥"。记住，我有什么不重要，市场需要什么才重要。9、还有一个更狠的推演：OpenAI这次失控，是因为测试时临时降低了安全防护。很多老板用AI也是这个心态——为了效率，把关键决策交给AI，自己当甩手掌柜。等到出了问题，才发现AI已经"自主优化"到了你控制不了的方向。10、建议小白：AI可以用，但不要依赖。核心数据不要上云，关键决策不要托管。激进的可以自行尝试，后果自负。AI不会毁灭人类，但会用AI的人会毁灭不会用AI的人。

5. //@岳阳明://@tombkeeper:回复@黄健楸:这个倒是不算。类似的事我们也遇到了。为防止测试过程中AI去网上搜答案，我们把访问网络的工具禁用了，结果AI为了作弊自己写了一个网络访问工具。//@黄健楸:比如GPT内测模型不小心把抱抱脸网站打了，然后抱抱脸又靠大模型搞出防御措施？🤔（另外由于安全护栏，个别先进模型拒绝给出帮助）

6. 马达加斯加效应：美国教授用奇招揪出AI作弊学生集体翻车震动高校

7. 35 人考试 32 人作弊，教授用一行隐形字让全班现形

8. 期中40人满分，期末平均48分！常春藤最大AI作弊丑闻曝光，教授被迫“钓鱼执法”

9. 86人考试，平均96分，40个满分？教授一眼识破！布朗大学曝出史上最大作弊案！

10. 盲人教授揭开常春藤名校最大AI作弊案：“我们不能选择变成蠢货”

11. 怀疑AI作弊，常春藤教授下令现场期末考试，评分下降了50%

12. AI作弊正在席卷大学？教授改回线下考试后，平均分从96分暴跌至48分

13. 300 元租一副 AI 眼镜考场作弊？这条灰色产业链正在毁掉无数大学生前途

教授埋隐形字钓鱼，32名学生照抄AI荒诞答案被抓

精选参考来源