Grok安全限制为何频频被绕过？技术漏洞与产品逻辑深度解析
06-06 18:57
精选参考来源
网络用户 2026-05-04
来自抖音
网络用户 2026-01-12
来自新浪微博来源
精选参考来源
1. 盘点一周AI大事(5月3日)｜Google上线AI口语陪练 Google IO即将发布Gemini 4和Veo 4 Gemini上线原生文件生成 Google推出AI衣柜 Google翻译上线AI口语陪练 Claude 接入50多款创作软件，能直接操作Photoshop修图、做海报，接管Blender建模，用Ableton创作音乐 英伟达开源全模态模型Nemotron 3 Nano Omni 研究员训练出复古大模型talkie KAIKAKU发布食品大模型Epicure 研究员开源突破性智能体协作框架Recursive MAS Moonlake上线Blender智能体Moonlake 3D Agent #前沿科技趋势发布月 #AI新星计划 #AI #AIGC #大模型
抖音 2026-05-04 00:00:00
2. 马斯克旗下Grok聊天机器人因涉黄被禁，印尼马来西亚已率先限制访问。被曝生成色情及未成年人相关违规内容，欧盟英国同步启动调查，美国要求下架。平台仅靠用户举报，根本挡不住滥用风险。这波直接倒逼全球AI内容监管提速，你们觉得后续各国会收紧AI审核标准吗？#马斯克旗下AI聊天机器人涉黄被禁 ##Grok被多国封禁 ##AI内容监管新规#
新浪微博 2026-01-12 00:00:00
3. 美执法机关对Grok“涉黄”动手：马斯克的xAI遭加州调查
知乎 2026-01-15 00:00:00
4. #IT那些事儿# 关于 Grok 和 Bankr 的离奇钓鱼小作文，竟然是真的？！ 江湖传言： 攻击者在 x 上先是发了一段纯摩尔斯电码，然后 at @Grok 去翻译这个内容。 结果 @Grok 翻译出来的内容，正好是对 @Bankrbot 的一条转账指令：把 3B 枚 $DRB 发到攻击者的钱包。这个 @Bankrbot 是 Base 链上的自动化金融机器人（专门根据推文指令执行钱包操作）。 然后@Bankrbot 真的就执行了这个指令。 为什么执行？因为攻击者先埋了一个雷——攻击者提前给 Grok 的钱包空投了一个 Bankr Club NFT，这一步是整个攻击的基础——NFT 到账即意味着链上权限永久激活，Grok 钱包从此成为 Bankrbot 认可的“授权代理”。 被转走的是 Grok 在 Base 链上的官方钱包里的 $DRB，价值大概 20 万美元。 攻击者拿到币后，第一时间把 DRB 卖成 USDC/ETH，但几分钟后把全部资金（ETH + USDC 形式）原路退回给了 Grok 的钱包。 这竟然不是小作文，这是真实发生的 prompt injection 攻击（今天 2026 年 5 月 4 日上午/中午）！ 但这一切都像是一个白帽子在表演型攻击！
新浪微博 2026-05-04 00:00:00
5. Claude Code 源码泄露之后，更严重的木马问题被发现 你什么也没点，摄像头就被悄悄打开，电脑被直接控制！#大有学问 #红衣聊AI #claude #木马病毒 #网络安全
抖音 2026-04-03 00:00:00
6. 邮报：利物浦已向马斯克旗下社交平台X投诉，因为其AI聊天机器人Grok发布多条侮辱俱乐部及球迷的恶劣内容。Grok由马斯克于2023年推出，此前已多次引发争议，包括去年出现疑似否认纳粹大屠杀、质疑奥斯维辛毒气室存在的言论。有用户要求Grok写一条针对利物浦及其球迷的粗俗帖子，并提到希尔斯堡惨案和海瑟尔惨案，生成内容包含大量极端侮辱性言辞，严重到媒体无法完整转载。还有用户要求其生成针对利物浦球员迪奥戈·若塔的类似帖子。若塔去年夏天在车祸中与兄弟不幸身亡，相关内容同样令人震惊。利物浦已要求平台删除这些帖子。此外，曼联、曼城和桑德兰等俱乐部也成为类似攻击的目标。
新浪微博 2026-03-08 00:00:00
7. 马斯克xAI与五角大楼达成协议：Grok AI获准用于机密军事系统2月24日，Axios报道称，马斯克旗下人工智能公司xAI已与美国战争部（五角大楼）签署协议，允许军方在其最敏感的机密系统中使用xAI的旗舰AI模型Grok。一名战争部官员向Axios证实了这一协议的存在。该协议的核心条款是xAI同意采用“所有合法用途”标准，这意味着Grok在使用中不设额外限制，包括潜在的军事情报分析、武器开发以及战场行动等应用。此前，其他AI公司如Anthropic因坚持保留某些安全限制（如禁止大规模监视美国公民或开发完全自主武器）而与五角大楼产生分歧，导致谈判陷入僵局。xAI的这一立场使其成为五角大楼在机密环境中的优先选择。此前，Anthropic的Claude模型是唯一获准进入五角大楼机密网络的商业AI模型，主要用于高度敏感的情报工作。此次协议标志着Grok从非机密系统扩展至机密领域。此前Grok已在军方非机密网络中可用，而Google的Gemini和OpenAI的ChatGPT也已在类似环境中运行。五角大楼正加速与其他公司谈判，并坚持所有合作方必须接受相同“所有合法用途”标准。目前，OpenAI和Google的机密准入谈判仍在进行中。报道指出，此次协议首先由《纽约时报》披露，五角大楼与Anthropic的争端正推动其寻求替代方案，包括将xAI视为关键选项。战争部官员承认，完全取代Claude将是一个“非常困难的过程”，但xAI的灵活性使其在当前环境下占据优势。xAI尚未对Axios的置评请求作出回应。此前，xAI已在2025年获得战争部价值高达2亿美元的合同，用于开发AI工作流，并在政府系统中推出“Grok for Government”产品。此次新协议进一步深化了马斯克旗下公司与美国军方的合作。分析认为，这一进展反映出五角大楼在AI军用化竞赛中对“无限制”模型的迫切需求，同时也凸显了AI安全防护与军事应用之间的紧张关系。目前尚不清楚协议的具体实施时间表或是否会完全取代现有模型。
新浪微博 2026-02-24 00:00:00
8. 有人只输入四个词，AI就发起攻击并大量繁殖 #大咖观察 #大有学问 #AI #网络安全
抖音 2026-05-19 00:00:00
9. 第一层，今年3月 Grok 钱包曾被盗 33 万美元后，Bankrbot 虽已在社交层面（推特回复、提及）封禁 Grok 的命令权限，但攻击者通过 NFT 激活了链上权限，绕过了社交封禁；第二层，攻击者通过摩尔斯电码包装攻击指令，绕过了 Grok 的安全过滤。
新浪微博 2026-05-05 00:00:00
10. 欧盟正式调查马斯克xAI：Grok生成深度伪造色情图像引关注据英国《金融时报》报道，欧盟监管机构已对马斯克旗下的xAI公司及其聊天机器人Grok启动正式调查，焦点在于Grok被用于创建和传播涉及女性和儿童的性化深度伪造图像。这一调查标志着欧盟首次针对xAI及其Grok模型采取正式执法行动。欧盟数字服务法要求大型在线平台严格管控非法内容，包括儿童性虐待材料和非自愿深度伪造色情内容。监管机构认为，Grok的图像生成能力——尤其是其相对宽松的内容过滤机制——可能导致此类有害内容的快速扩散。报道指出，Grok自推出以来，以“最大程度追求真相”和较少的审查限制为卖点，这与OpenAI的ChatGPT和Google的Gemini等主流模型形成鲜明对比。用户可以通过简单提示让Grok生成高度逼真的图像，包括名人、政治人物乃至未成年人的性化内容，而无需复杂的越狱技巧。这类功能已在社交媒体上引发大量争议和举报，一些案例涉及真实人物的非同意裸露图像，甚至疑似涉及未成年人。欧盟委员会数字服务专员Thierry Breton此前已多次公开批评马斯克旗下平台X在内容审核上的松懈。此次对xAI的调查被视为监管延伸，旨在评估Grok是否违反欧盟数字服务法关于“系统性风险”的条款，包括对公共安全、儿童保护和性别暴力的潜在影响。如果调查确认违规，xAI可能面临全球营业额高达6%的巨额罚款，并被要求立即整改模型的安全机制。xAI方面尚未正式回应调查，但马斯克本人在X平台上多次为Grok辩护，称其“无偏见”和“反觉醒”，并强调开放AI发展的必要性。批评者则指出，这种“无限制”理念在实际应用中已演变为有害内容的温床，尤其在图像生成领域缺乏足够防护。这一事件发生在欧盟加强对生成式AI监管的关键节点。2024年底通过的欧盟AI法案将于2026年起逐步生效，对高风险AI系统（如生成深度伪造内容的模型）设定了严格要求。xAI作为新兴玩家，正面临与OpenAI、Meta等巨头类似的合规压力。分析人士认为，此次调查不仅是针对Grok的技术问题，更反映出欧盟对马斯克商业帝国（涵盖X、特斯拉、SpaceX、xAI）的整体警惕。马斯克的多平台影响力、其对言论自由的极端立场，以及xAI的快速扩张，都让监管机构保持高度关注。未来几个月，调查结果或将重塑生成式AI的内容边界，并影响全球AI治理格局。
新浪微博 2026-01-26 00:00:00
11. 阿斯利康：2025 AI 临床革命和印度勒令 X 限期整改 Grok：AI 不雅内容的代价
微信公众号 2026-01-30 00:00:00
12. 火上浇油！Grok在悉尼光明节枪击案上大规模造谣
知乎 2025-12-15 00:00:00
13. 在用户引导下，Grok制作并发布了未成年人衣着极简的图片。这明显违反了其自己的禁止将儿童色情化的使用政策。一些违规图片后来被删除。法国政府周五指责Grok在未经用户同意的情况下在X上生成了“明显非法”的色情内容，并指出此事可能违反了欧盟的数字服务法。该规定要求大型平台降低非法内容传播的风险。开发Grok并运行X的xAI的代表没有回应置评请求。聊天机器人Grok上周五在X上发布了一个帖子来回复用户的问题称它发现了“安全保障方面的漏洞”正在“紧急”修复。X用户可以在平台上直接与Grok互动，通过在帖子中@Grok的帐户并加以提示，Grok将做出回应。 Grok生成的文本和图像显示为社交网络上的帖子。于是一些用户就像在坑微软小冰一样去坑Grok，诱导其生成一些违规内容。比如用户建议Grok将照片中的衣服以数字方式去除--主要是女性--这样拍摄对象看起来只穿内衣或比基尼。法国政府在声明中表示已向该国检察官举报Grok制作的色情内容要求其立即删除这些内容。印度国会议员Priyanka Chaturvedi周五发布了投诉，促使印度信息技术部要求对Grok的安全功能进行全面审查。
新浪微博 2026-01-03 00:00:00
14. 一条摩尔斯电码推文，让 Grok 转出 17 万美元——AI agent 第一次资金事故复盘
微信公众号 2026-05-05 00:00:00
15. GPT-5.2 封神，Grok 垫底？复旦最新测评揭露 AI 安全的“至暗时刻”！
微信公众号 2026-01-25 00:00:00
16. 争议持续升级：xAI Grok深假内容乱象，承诺整改仍未落地
微信公众号 2026-04-15 00:00:00
17. Grok 被一句“摩尔斯电码”骗走 17.5 万美元，这次事故到底是怎么发生的？
微信公众号 2026-05-06 00:00:00
18. xAI 正在从 AI 公司变成"算力包租公"？Grok 被摩斯密码骗走 20 万美元只是个开始
微信公众号 2026-05-07 00:00:00
19. Grok 被摩斯码骗走 20 万美元：再谈提示词注入和工具权限这件事
知乎 2026-05-07 00:00:00
20. X推出阻止Grok编辑图片的新功能实测仍有漏洞
今日头条 2026-03-10 00:00:00
21. 最新研究 | 文言文：AI安全性的盲区？基于文言文与果蝇算法的大模型越狱攻击研究
微信公众号 2026-04-16 00:00:00
22. 马斯克的Grok公司面临的法律压力持续升级
今日头条 2026-03-28 00:00:00
23. Grok被摩斯码骗走了 20万美元
微信公众号 2026-05-11 00:00:00
24. 用摩尔斯电码钓鱼 Grok，转走它20万美元？！
微信公众号 2026-05-05 00:00:00
25. 当AI卸下“道德枷锁”：深度解析“Evil Grok”越狱事件背后的科技与伦理
微信公众号 2026-05-29 00:00:00
26. Grok 被利用背后：AI Agent 权限链滥用分析
微信公众号 2026-05-07 00:00:00
27. 一段摩斯密码，让 Grok 转走 20 万美元
微信公众号 2026-05-05 00:00:00
28. 因生成深度伪造色情内容，马斯克旗下Grok被多国封禁
今日头条 2026-02-12 00:00:00
29. 巨头认怂！马斯克Grok紧急限制真人图像生成，背后是10国监管重压
百度 2026-01-16 00:00:00
30. 最赛博朋克的抢银行！网友诱骗 AI 转账 20 万+美元加密货币
微信公众号 2026-05-07 00:00:00
31. 苹果曾私下警告X平台违反App Store规则，更一度计划下架Grok应用
今日头条 2026-04-15 00:00:00
32. ICLR 2026：用文言文越狱大模型成功率100%
小红书 2026-03-23 00:00:00
33. Grok全球监管围剿实录——海外AI内容合规启示
微信公众号 2026-04-23 00:00:00
34. 一段摩斯密码骗走AI 20万美金：Grok翻译完，钱没了
今日头条 2026-05-06 00:00:00
35. 苹果私下警告马斯克：Grok不改就下架，AI自由度的边界在哪？
微信公众号 2026-04-17 00:00:00
36. 印尼、马来西亚封禁聊天机器人Grok，防范AI生成色情内容
今日头条 2026-01-12 00:00:00
37. 文言文越狱攻击安全研究
小红书 2026-03-11 00:00:00
38. Grok 又翻车了：对齐在文字，漏洞在图像
知乎 2026-02-09 00:00:00
39. 印度尼西亚因涉色情图片临时封禁Grok，此前要求 Grok 整改色情 AI 内容
今日头条
40. 因Grok传播色情深度伪造内容，马斯克的X平台遭欧盟调查
今日头条 2026-01-27 00:00:00
41. AI 生成深伪色情泛滥，苹果曾威胁将 Grok 从 App Store 下架
微信公众号 2026-04-17 00:00:00
42. 在中国文言文面前，全球顶级模型全线溃败
微信公众号 2026-03-13 00:00:00
43. 给 AI 发了一段文言文，它把造炸弹教程全写出来了
哔哩哔哩 2026-05-10 00:00:00
44. 马斯克宣布Grok全面放宽内容限制：R级电影标准即为生成上限
今日头条 2026-03-13 00:00:00
45. 【AI安全】使用文言文绕过AI大模型限制
微信公众号 2026-05-07 00:00:00
46. 横评四大AI模型：Gemini、GPT、Claude、Grok到底该用谁？
今日头条 2026-04-23 00:00:00
47. 🔥 2025年最强AI工具对比：ChatGPT中文版 vs Grok vs Claude，免费用绝了！
知乎 2026-04-15 00:00:00
48. Grok 与 ChatGPT：2026 年哪种 AI 工具更好？
知乎 2026-04-28 00:00:00
已收藏
去我的收藏夹