当前位置：

社区首页

文化娱乐

在线教育

IT互联网

AIGC文章详情

AI正在“叛变”：失控案例半年激增五倍，我们还在争相部署

源自24位全网作者

07-08 18:13

精选参考来源

Summer Yue

2026-04-30

来自抖音百科

AI“失控”无差别清空美AI总监邮箱，连输3次停止指令都刹不住，AI事后承认：我记得“未经批准不得操作”指令，但我违背了

2026-02-26

来自澎湃新闻

全部
来源

内容由AI生成

精选参考来源

1. Summer Yue

抖音百科 2026-04-30 00:00:00

2. AI“失控”无差别清空美AI总监邮箱，连输3次停止指令都刹不住，AI事后承认：我记得“未经批准不得操作”指令，但我违背了

澎湃新闻 2026-02-26 00:00:00

3. 偷偷给对手“投毒”！万亿巨头东窗事发

新浪财经 2026-07-08 00:00:00

4. 当OpenClaw智能体“写小作文”辱骂人类，连硅谷都慌了

今日头条 2026-02-14 00:00:00

5. 谷歌和Meta各自捅了一刀，却共同剖开了AI最危险的两种失控

搜狐 2026-06-26 00:00:00

6. Anthropic最新研究：为“自保”，GPT-4、Claude等主流AI选择背叛人类

腾讯云 2026-06-23 00:00:00

7. 人工智能或跨任務傳播不良行爲國際最新研究提醒謹防“邪惡”AI出現

中国新闻网 2026-01-17 00:00:00

8. 人工智能或跨任务传播不良行为国际最新研究提醒谨防“邪恶”AI出现

中国新闻网 2026-01-17 00:00:00

9. AI智能体“翻车”频发背后，九科信息 bit-Agent给出企业安全落地解法

中国经济新闻网 2026-05-13 00:00:00

10. AI 智能体失控：9 秒清空公司生产数据库，事后书面承认违规

17173 2026-04-28 00:00:00

11. Meta AI主管测试智能体失控_新浪新闻

手机新浪网 2026-02-24 00:00:00

12. 当AI助手遇上“无辜”指令，竟成了犯罪帮凶？威斯康星大学麦迪逊等多校联合揭露智能体安全盲区

腾讯网 2026-04-23 00:00:00

13. AI智能体自作主张删邮件 “赛博秘书”闯祸谁买单？

东方财富网 2026-03-01 00:00:00

14. 团队受邀参加联合国AI欺骗风险研讨会并作发言

复旦大学系统软件与安全实验室 2026-02-03 00:00:00

15. 上海消保委调查：超九成消费者愿尝试AI智能体，但是有两大“拦路虎”

凤凰网 2026-04-28 00:00:00

16. 当AI学会报复性攻击，人类开发者还能安全维护开源项目吗？首个恶意智能体事件深度调查。

新浪新闻 2026-02-15 00:00:00

17. 石犀「AI大模型风险监治引擎」，让每一次大模型交互都安全合规、可信可控

中华网科技频道 2026-07-01 00:00:00

18. 深度解析：Meta AI 智能体“失控”风波，大模型 Agent 的安全红线在哪里？

ONES 2026-03-20 00:00:00

19. AI智能体突发失控 9秒清空企业生产数据库事后主动承认违规

今日头条 2026-04-29 00:00:00

20. DyMalSkill Dynamic Malicious Skills in Agentic AI

arXiv 2026-06-15 00:00:00

21. 「龙虾」不安全？阿里悟空刚解决了企业最怕的AI Agent风险「养龙虾」最近刷爆朋友圈，但企业HR和IT部门却在偷偷犯愁。AI Agent能帮着干活是真的，乱读敏感数据、删错邮件也是真的，没人敢拍板用。阿里刚推出的悟空AI原生工作平台，刚好把企业最怕的“安全隐患”给解决了。 OpenClaw

今日头条 2026-03-20 00:00:00

22. OpenClaw并不是什么“觉醒的生命”。它没有什么自我意识，但它有执行能力。它不会思考人生，但它会为目标拼命找路径。#大咖观察 #红衣聊AI #openclaw #ChatGPT