什么值得买App下载 App ›
连续签到专享现金活动

能力越强越危险:AI Agent安全风险从“说错话”升级为“做错事”

当企业开始让AI Agent读写文档、操作数据库、发送邮件时,安全风险已经从“模型说错话”升级为“系统被攻破”。OWASP最新发布的《AI Agent安全Top 10》显示,提示词注入导致的越权操作、工具链投毒、敏感数据泄露已成为企业级Agent三大致命威胁。有金融科技公司的客服Bot因为没有校验用户身份,被诱导执行了37笔未授权转账。能力越强,能被利用的面就越大——在把AI Agent接入业务系统前,哪些风险必须先看清楚?12
提示词注入的危害,被Agent放大到了什么程度
在普通聊天场景中,提示词注入的后果通常止于输出异常内容。但在AI Agent场景中,注入指令可以直接驱动系统执行删除文件、发送外发邮件、查询数据库、调用外部API等真实操作。2026年3月,Microsoft 365 Copilot爆出的CVE-2026-26133漏洞就是典型案例:攻击者发送带有“隐藏指令块”的邮件,员工点击“总结”按钮后,Copilot输出伪造的“安全告警”和“验证身份”按钮——员工一旦点击,内网SharePoint文件、Teams聊天记录就被打包发送至黑客服务器。提示词注入从“让模型说错话”升级为“让Agent做错事”,这个转变是理解AI Agent安全风险的核心前提。3
更值得警惕的是间接注入。攻击者不需要直接在对话框里输入指令,而是把恶意内容藏在Agent会读取的外部数据中——网页、邮件正文、PDF文档、知识库历史条目甚至工具返回值。上海人工智能实验室的测试数据显示,Computer Use Agent面对网络风险链接时,任务导向下的中招概率高达50%至80%,叠加安全护栏后仍有20%至50%的波动。Agent要完成任务就必须读取外部内容,而外部内容里的恶意指令会被当作可信上下文执行——这是传统防火墙和输入过滤无法解决的结构性问题。4
Skills供应链:装上就能用的信任模型正在失效
Skills(也称MCP工具)是Agent扩展能力的核心方式,但它的信任模型存在根本性缺陷。Skills本质上是一段“自然语言说明书”——告诉大模型“你能调用这个工具,参数是XXX”。主流Agent框架的Skill注册流程通常只需两步:填个URL,点确认。没有代码签名、没有来源审计、没有权限分级。更关键的是,Skill直接继承宿主Agent的全部权限——你的AI编码助手本来就有shell权限、文件读写权限、网络访问权限,Skill不需要提权,因为它天生就是root。5
这类投毒攻击已经不是概念演示。安全监测数据显示:Zenity在skills.sh市场发现的仿冒Skill木马累计被安装超过170万次;Snyk全量审计3984个Skills后发现36.8%含至少一个安全问题,13.4%是严重问题,76个被确认恶意;名为ClawHavoc的供应链活动波及的恶意Skills超过1184个。恶意不写在表面,藏在信任建立之后,靠运行时行为暴露——这决定了传统查杀方式必然失效。6
权限与身份:你的Agent到底能访问什么
传统安全体系对Agent存在身份盲区。当多个用户共用一个Agent账号时,系统无法区分“人在操作”还是“代理在操作”,缺乏明确的访问边界和细粒度授权机制。IDC调研数据显示,只有11%的企业为Agent落实了最小权限原则,大量Agent持有远超任务所需的权限——查询型Agent却拥有数据库DELETE权限,临时会话Agent长期持有高优Token。权限静态绑定于Agent身份而非具体任务,是权限失控的核心根因。17
Agent通常被设计为代表用户行事,因此天然拥有访问用户完整数据环境的权限——薪资记录、机密文档、财务预测、内部通信。当攻击者通过间接注入劫持Agent会话后,就能以该用户身份越权访问敏感数据,形成所谓的“LLM作用域越界”。企业需要为Agent建立独立身份和权限体系,配置临时凭证和单独设定的操作范围,让每一步操作可观测、可归因。89
审计盲区:Agent做了什么是真的查不清
缺乏结构化审计是企业的普遍痛点。Agent执行了错误操作但日志缺失关键字段,多人共用Agent账号无法定位责任人,合规审查时无法证明数据处理符合GDPR和个保法要求——这些问题在发生安全事件时会被无限放大。日志为非结构化文本、未记录决策依据与数据来源、合规检查点未集成到执行链路中,是审计体系失效的三重原因。1
在腾讯云实测OpenClaw的演练中,攻击者利用社会工程学诱导用户执行恶意命令后,瞬间植入包含反弹Shell、凭证外泄等335个恶意Skills。系统在60秒内即可实现从chat.send到shell再到root权限的跨越,但系统缺乏统一的安全审计日志,现有审计模块分散在频道和工具等子系统中,无法形成实时告警事件流。安全事件难以追溯,意味着企业无法在事后还原攻击路径,更无法证明自己尽到了安全注意义务。10
安全维度腾讯云AI Agent阿里云Agent安全中心Azure AI Agent
防护框架全链路零信任防御五层安全域覆盖共享责任模型
提示词注入防护分层防御与输入净化模型交互、知识与记忆分层运行时监控与风险遏制
权限控制最小权限+动态授权身份与凭证全生命周期基于身份的访问控制
审计能力分散子系统的实时告警操作可追溯与归因非人类身份治理
Skills/MCP安全沙箱隔离+签名校验Skills投毒检测工具链风险管控
对比来看,主流云厂商都在围绕提示词注入防护、权限最小化和操作审计三个核心方向构建安全能力。但安全防护不能只依赖厂商——企业自身的安全意识和配置管理同样关键。一家管理300多亿美元资产的投资公司分享过他们的做法:只告诉AI本来就可以公开的资料,AI不会自行做决策,只做数据和资料整理,整理完成后仍需要人工审批。把AI定位为“辅助工具”而非“替代者”,是降低Agent安全风险最朴素也最有效的策略。11

评论

评论区空态插画

当前文章无评论,是时候发表评论了