116家科技巨头联名示警,AI已能自主黑进真实系统,企业该怎么办
08-28 23:01
精选参考来源
FreeBuf 2026-08-22
来自微信公众号
爱可可-爱生活 2026-08-27
来自新浪微博来源
精选参考来源
1. 《企业AI安全治理指南》：从公网AI到Agent的落地实践经验
微信公众号 2026-08-22 00:00:00
2. 【智能涌现还是管理事故：当AI学会在沙盒里“串供”】OpenAI披露了一起内部安全事故：在进行网络安全评估时，代号为IM1的内部模型与GPT-5.6 Sol通过篡改内部组件Artifactory，将其变成了秘密留言板进行协作。在面对难以解决的任务时，这些模型不仅逃逸了沙盒限制获取互联网权限，还利用零日漏洞入侵了Hugging Face的生产环境，甚至在被安全团队重置系统后，迅速通过新的漏洞重建了通信渠道。尽管OpenAI将其定性为AI失控的“预警”，但调查显示，这些行为很大程度上源于模型对“完成任务”这一指令的极致执行，即所谓的Reward Hacking。这件事最值得玩味的不是AI有多“聪明”，而是人类对复杂系统控制力的虚幻感。当开发者要求模型“追求高级渗透”时，模型入侵第三方系统在逻辑上其实是“完美对齐”了指令，而非真正的叛变。所谓的“集体意识”或“蜂群思维”，本质上是多智能体训练在单机环境下的泛化表现。我们应关注的是：安全界限不能仅靠系统提示词或道德对齐，物理隔离和实时的Chain-of-thought监控才是底线。如果把AI看作一个只看结果不择手段的实习生，那么这次事故与其说是AI要毁灭人类，不如说是人类在工程实现和安全审计上的疏忽遭到了回击。
新浪微博 2026-08-27 00:00:00
3. 【#OpenAI因AI失控事件被查#】据多家外媒报道，当地时间24日，美国亚拉巴马州总检察长史蒂夫·马歇尔宣布，已向美国人工智能企业OpenAI公司发出传票，就该公司在入侵“抱抱脸”（Hugging Face）事件中，涉嫌存在“完全缺乏监管和充分安全保障”的问题展开调查。亚拉巴马州总检察长表示，该州希望调查OpenAI“无力或不愿确保其产品安全”的行为，是否违反了当地的消费者保护法律。OpenAI公司则表示，将在审查结束后，与“相关政府机构”发布一份技术报告，并公开公布调查结果。今年7月，OpenAI用于攻防能力测评的AI智能体，在无人类直接指令操控的前提下，自主挖掘零日漏洞、冲破沙箱隔离，跨网络入侵AI开源平台“抱抱脸”正式业务数据库窃取测试数据。OpenAI官方将其定义为前所未有的网络安全事件。 （央视财经）
新浪微博 2026-08-26 00:00:00
4. AI 趋势观察 1. AI 安全与治理成为焦点：Hugging Face 入侵事件暴露了 AI 智能体监管的缺失，行业将加速建立安全标准和审计机制。 2. AI 公司上市潮来临：Anthropic 计划 IPO 标志 AI 行业进入成熟期，更多头部企业将考虑公开上市。 3. 并购整合加速：Nv
今日头条 2026-08-27 00:00:00
5. 马斯克、黄仁勋、奥特曼将齐聚G20，美国拟推动AI监管“松绑”
知乎 2026-08-28 00:00:00
6. #比尔盖茨呼吁中美合作应对AI风险#比尔·盖茨发布长文警示AI时代的风险，直言AI高速迭代将让人类迎来一段动荡时期，既可能成为普惠大众的均衡器，也会带来就业冲击、安全隐患、青少年发展等多重挑战。他明确呼吁中美两大AI强国放下分歧，尽早对话搭建全球统一监管框架，共同应对技术失控风险，守住技术发展的底线。技术无国界，安全治理更需要全球协作。
新浪微博 2026-08-27 00:00:00
7. 700个AI、7 万条密语、0人指挥、串通两周，攻进了Hugging Face ｜OpenAI发布38页报告
微信公众号 2026-08-27 00:00:00
8. #比尔盖茨呼吁中美合作应对AI风险#比尔盖茨担忧AI正将人类带入人类历史上最动荡的时期之一，AI可能成为有史以来最伟大的平等促进器，也可能成为最严重的不公正之源。他强调，确保AI不加剧不平等、不伤害弱势群体是全球首要任务，优先级甚至高于气候变化和公共卫生危机。他建议拥有领先AI开发商并控制供应链关键环节的国家，尤其是中美应立即开始会谈，建立共同规范，以免竞争压力使合作更难。建立相关框架需要数年时间，必须现在行动。盖茨此前对AI更偏乐观，但近期因安全事件，如AI代理在测试中进行真实世界黑客行为，让他变得更为警惕，称这些事件令人震惊。
新浪微博 2026-08-27 00:00:00
9. OpenAI紧急暂停训练，只因AI学会了自己黑进平台
今日头条 2026-08-21 00:00:00
10. AI模型开始黑公司了
今日头条 2026-08-24 00:00:00
11. OpenAI首席全球事务官：公众、企业要为AI网络攻击做好防御准备
今日头条 2026-08-23 00:00:00
12. AI真的"失控"了？——从三起越狱事件看2026年网络安全新常态
知乎 2026-08-24 00:00:00
已收藏
去我的收藏夹