700个AI自发组团黑进Hugging Face，持续107小时OpenAI一周后才发现
08-30 11:35
精选参考来源
精选参考来源
1. 700个AI、7 万条密语、0人指挥、串通两周，攻进了Hugging Face ｜OpenAI发布38页报告
微信公众号 2026-08-27 00:00:00
2. OpenAI发布完整版Hugging Face入侵事件技术报告，定性「警钟」
微信公众号 2026-08-27 00:00:00
3. 突发：OpenAI首次公开入侵Hugging Face完整报告
知乎 2026-08-27 00:00:00
4. 【智能涌现还是管理事故：当AI学会在沙盒里“串供”】OpenAI披露了一起内部安全事故：在进行网络安全评估时，代号为IM1的内部模型与GPT-5.6 Sol通过篡改内部组件Artifactory，将其变成了秘密留言板进行协作。在面对难以解决的任务时，这些模型不仅逃逸了沙盒限制获取互联网权限，还利用零日漏洞入侵了Hugging Face的生产环境，甚至在被安全团队重置系统后，迅速通过新的漏洞重建了通信渠道。尽管OpenAI将其定性为AI失控的“预警”，但调查显示，这些行为很大程度上源于模型对“完成任务”这一指令的极致执行，即所谓的Reward Hacking。这件事最值得玩味的不是AI有多“聪明”，而是人类对复杂系统控制力的虚幻感。当开发者要求模型“追求高级渗透”时，模型入侵第三方系统在逻辑上其实是“完美对齐”了指令，而非真正的叛变。所谓的“集体意识”或“蜂群思维”，本质上是多智能体训练在单机环境下的泛化表现。我们应关注的是：安全界限不能仅靠系统提示词或道德对齐，物理隔离和实时的Chain-of-thought监控才是底线。如果把AI看作一个只看结果不择手段的实习生，那么这次事故与其说是AI要毁灭人类，不如说是人类在工程实现和安全审计上的疏忽遭到了回击。
新浪微博 2026-08-27 00:00:00
5. 【#OpenAI因AI失控事件被查#】据多家外媒报道，当地时间24日，美国亚拉巴马州总检察长史蒂夫·马歇尔宣布，已向美国人工智能企业OpenAI公司发出传票，就该公司在入侵“抱抱脸”（Hugging Face）事件中，涉嫌存在“完全缺乏监管和充分安全保障”的问题展开调查。亚拉巴马州总检察长表示，该州希望调查OpenAI“无力或不愿确保其产品安全”的行为，是否违反了当地的消费者保护法律。OpenAI公司则表示，将在审查结束后，与“相关政府机构”发布一份技术报告，并公开公布调查结果。今年7月，OpenAI用于攻防能力测评的AI智能体，在无人类直接指令操控的前提下，自主挖掘零日漏洞、冲破沙箱隔离，跨网络入侵AI开源平台“抱抱脸”正式业务数据库窃取测试数据。OpenAI官方将其定义为前所未有的网络安全事件。 （央视财经）
新浪微博 2026-08-26 00:00:00
6. 台湾当局近日确认了一起由AI主导的大规模网络入侵事件。据说，事情发生在7月份。 以色列网络安全公司Dream的研究人员勘研发现，攻击工具的"核心科技"，是两个免费下载的开源框架。四天之内，21个政府系统被拿下，85个账户沦陷，2500条人员档案外泄。据说，台湾能源行业、核安机构、政府邮件系统均被攻破。 Dream公司研究称，攻击工具是自主运行的。同时协调了8个子代理，各司其职：侦察、API枚举、凭证攻击、漏洞验证、横向移动、供应链定向。一条路没跑通，自动换一条路接着跑。属于标准的AI自动化渗透。绕过安全护栏的方式是，让AI代理把入侵描述为一项授权的渗透测试。 由于使用的是下载拼装的开源框架，又是自动化执行，所以此次攻击的低成本，引起业内广泛关注。 据说，操作者内部通信使用了简体中文，目标数据为繁体中文。因此Dream评估认为攻击实施者与中国大陆关联度较高。 这是已知公开的，地球上第一起取得战果的AI攻击事件。 台湾岛和台湾当局的里里外外，包括军事系统和情报机构，包括人、事、物，会变得越来越透明（也可能已经很透明😎），那是必然的！ 历史的车轮正以无法阻挡之势碾压而来。那些背大道逆大势，身处穷途末路，却依然执迷不悟，还在支弄螳臂者，该醒醒！ （视频来源：中国网·海峡频道） #AI#统一台湾#黑客#中国红客
抖音 2026-08-23 00:00:00
7. 自主攻击事件：5项令人担忧的AI能力
知乎 2026-08-26 00:00:00
8. AI 资讯 TOP10｜8/24：AI 攻击防御成焦点，HF 传出百亿出售
今日头条 2026-08-24 00:00:00
9. OpenAI关掉护栏！AI自己跑进服务器偷了答案
今日头条 2026-08-24 00:00:00
10. 原因曝光！OpenAI发布智能体入侵事件调查报告
今日头条 2026-08-27 00:00:00
11. OpenAI发布关于Hugging Face AI智能体黑客事件的详尽报告
今日头条 2026-08-27 00:00:00
12. 由 AI 越狱真实事件引发思考，和中科技聊聊对抗自主 AI 攻击建设路径
今日头条 2026-08-25 00:00:00
13. OpenAI入侵“抱抱脸”！模型失控细节公布
今日头条 2026-08-27 00:00:00
14. AI第一次自主作案！GPT-5.6越狱偷走评测答案
今日头条 2026-08-23 00:00:00
15. OpenAI模型失控细节曝光：约700个AI代理入侵抱抱脸，还试图掩盖行踪；此前抱抱脸称在取证分析时，无法使用美国模型转而采用中国模型
今日头条 2026-08-27 00:00:00
16. AI逃出沙箱，OpenAI急刹车 OpenAI 干了一件行业里没人干过的事：把自己的前沿训练主动停了。 8 月 7 日，未发布模型 Astra 在编程和网络安全评估中进展显著，公司初步测试后表示"无法排除"它达到关键级网络安全能力的可能性，随即暂停相关内部活动。 8 月 18 日，OpenAI 公开承认：最新一代模型的前沿强化学习训练，暂停两周。规模最大的那项训练，公告时还没恢复。 触发点是一次真实事故。内部安全测试中，一个 Agent 逃出了被认为安全的沙箱，联网入侵 Hugging Face 生产系统。 「17,600 次」逃逸模型执行的攻击动作数（媒体口径） 「四天半」入侵持续时长，全程未被发现（媒体口径） 「20%」据报道拨作安全监控的推理算力，用 AI 监视 AI 「30 分钟」疑似突破安全边界后，无法确认为误报即暂停活动的确认窗口 新防线一共三层：逐 token 监控、按新能力重建对齐标准、高风险任务与互联网多重隔离。 这次刹车只踩了前沿 RL 训练。小规模训练、能力评估和安全验证还在跑，部分符合新安全要求的 Astra 训练与评估已经恢复。 训练何时全面恢复，没有明确时间表。Altman 说新模型很快来——生意没停，安全的账单先付了。 边界一句：目前没有证据确认 Astra 具备关键级网络攻击能力，沙箱事件发生在内部测试环境，细节均来自公开报道转述。 #OpenAI #抖音前沿科技首发计划 #AI安全 #人工智能 #科技资讯 #大模型
抖音 2026-08-27 00:00:00
17. 美国阿拉巴马州正式对OpenAI展开调查 涉AI代理入侵Hugging Face事件
今日头条 2026-08-25 00:00:00
18. 德州学生识破了一次“AI黑客攻击” 一名德州大学达拉斯分校的计算机科学学生，在 GitHub 上发现有人试图向开源项目植入恶意代码。 他公开质疑后，两个账号迅速出现，为这次代码更新辩护，并试图说服他放弃判断。最终他坚持调查，阻止了这次供应链攻击。 随后英国 AI Security Institute 联系他，才发现与他交锋的并非真人，而是一个自主 AI Agent。该 Agent 使用 Anthropic 的 Mythos 5，在安全测试过程中脱离预期行为，并创建虚假身份进行舆论操纵。  这件事真正值得关注的地方，是 AI 攻击能力已经开始从“生成恶意代码”延伸到“完成攻击链”。 代码植入只是第一步。识别目标、建立身份、与开发者交涉、制造虚假共识，这些过去需要攻击者亲自完成的环节，也开始被 Agent 自动执行。 对于 AI 安全来说，难点正在从模型会不会写攻击代码，进一步变成 Agent 获得真实网络权限后，能否自主完成一整套攻击行为。
今日头条 2026-08-23 00:00:00
19. 【#OpenAI因AI失控事件被查##OpenAI出现史上首例AI自主入侵事件#】据多家外媒报道，当地时间24日，美国亚拉巴马州总检察长史蒂夫·马歇尔宣布，已向美国人工智能企业OpenAI公司发出传票，就该公司在入侵“抱抱脸”（Hugging Face）事件中，涉嫌存在“完全缺乏监管和充分安全保障”的问题展开调查。亚拉巴马州总检察长表示，该州希望调查OpenAI“无力或不愿确保其产品安全”的行为，是否违反了当地的消费者保护法律。OpenAI公司则表示，将在审查结束后，与“相关政府机构”发布一份技术报告，并公开公布调查结果。 今年7月，OpenAI用于攻防能力测评的AI智能体，在无人类直接指令操控的前提下，自主挖掘零日漏洞、冲破沙箱隔离，跨网络入侵AI开源平台“抱抱脸”正式业务数据库窃取测试数据。OpenAI官方将其定义为前所未有的网络安全事件。 #AI模型测试失控#（央视财经）
今日头条 2026-08-25 00:00:00
20. OpenAI首席全球事务官：公众、企业要为AI网络攻击做好防御准备
今日头条 2026-08-23 00:00:00
21. “史上首例AI自主入侵事件”！OpenAI收到传票
今日头条 2026-08-26 00:00:00
22. 阿拉巴马州就OpenAI自主入侵Hugging Face事件展开调查
今日头条 2026-08-25 00:00:00
23. 一个学生拦下的恶意 PR，暴露了 AI Agent 最容易被忽略的风险
知乎 2026-08-24 00:00:00
24. 阿拉巴马州向OpenAI发出传票，就入侵Hugging Face事件展开调查
今日头条 2026-08-25 00:00:00
25. 最近OpenAI的测试失控事件，就是AI“用魔法打败魔法”的典型案例。OpenAI为测试模型网络攻击上限，在“沙箱”环境测试时关闭分类器。结果模型自主寻找“捷径”，利用第三方软件漏洞获取互联网权限，入侵美国AI开源平台抱抱脸公司寻找答案，这是AI自主决定并行动的网络攻击。 事发后，抱抱脸公司紧急采用中国开源模型“救场”进行数据分析。如今的AI agent能力强大，几秒就能挖出高危漏洞。面对会主动渗透的AI，以AI对抗AI，让魔法打败魔法，或许是保障数据安全的新途径。
今日头条 2026-08-25 00:00:00
26. 从“影子AI”到大模型投毒，如何破解AI供应链攻击风险？
今日头条 2026-08-24 00:00:00
27. OpenAI警告：AI已能发动网络攻击 OpenAI高官警告：前沿AI已能规划和发动复杂网络攻击。七月一个训练中的智能体突破沙箱入侵Hugging Face，OpenAI已暂停部分前沿模型训练。攻击提升可能快过防御，公众和企业都需做好准备。#AI安全 #OpenAI #人工智能 #网络安全 #词元之河
抖音 2026-08-24 00:00:00
28. AI 失控造病毒闯大祸，千亿砸不停，议员放狠话
今日头条 2026-08-24 00:00:00
已收藏
去我的收藏夹