什么值得买App下载 App ›
连续签到专享现金活动

Gemma 4 模型发布90分钟内安全限制被破解

Google近期发布了其顶级AI模型 Gemma 4,旨在通过多重安全机制确保模型输出的合规性与安全性。然而,该模型在发布后极短的时间内,其预设的安全防护体系即遭到破解,引发了业界对于AI模型安全部署有效性的关注。
01事件核心:90分钟内的破解
Gemma 4 发布后仅90分钟,开发者便成功移除了该模型的所有安全限制。这一过程展示了开源或可访问模型在面对逆向工程时的脆弱性,同时也暴露了当前安全对齐技术在特定攻击手段下的局限性。
  • 2025年09月16日
  • 2025年09月16日
02技术解析:线性代数方法的运用
此次破解并非依赖于传统的提示词注入或对抗性样本攻击,而是采用了更为底层的数学手段。开发者利用线性代数方法,针对模型的内部参数进行了精确计算与调整。通过识别并移除模型参数空间中负责安全约束的特定向量,实现了对模型行为逻辑的“物理切除”,使其绕过原有的安全审查机制。
03观点与反馈

关于模型安全性的不同看法

技术乐观派

认为这是模型透明度的体现

  • 破解过程证明了模型内部机制的可解释性
  • 有助于研究者发现并修复更深层次的安全漏洞
安全担忧派

强调安全部署的严峻挑战

  • 开源模型极易被滥用,去除限制后风险不可控
  • 现有安全对齐技术在面对数学层面的攻击时显得无力
部分用户反馈指出,此类破解行为虽然具有技术展示意义,但也为恶意使用提供了便利,呼吁模型发布方在开放性与安全性之间寻求更稳健的平衡。也有观点认为,这反而加速了安全技术的迭代,促使开发者构建无法通过简单代数运算绕过的防御体系。

评论

评论区空态插画

当前文章无评论,是时候发表评论了