11月18日,华中科技大学与阿里巴巴集团签署合作协议,在校揭牌成立“智能攻防与前沿安全联合研究中心”,首批9个课题同日开题。课题覆盖大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护四大方向,官方给出的落点是解决普通人使用AI的痛点。根据协议,阿里巴巴集团将在三年内投入1000万元科研经费,依托国家网络安全人才培养与创新基地展开攻关。中心是研究机制,不会把成果一夜之间变成消费者保护;但把四大方向对照日常场景,哪些习惯现在就该改,已经能说清楚。小红书IT之家投资界华禹教育网

你让AI干活时,它可能在听别人指挥
OWASP把提示注入列为大模型应用风险的第一项(LLM01)。间接提示注入的隐蔽之处在于:恶意指令写在网页、邮件、文档里,你让AI去读这些材料,指令就一并进了上下文——模型处理的是连成一串的Token,分不清哪句是你下的任务、哪句只是被读到的资料。知乎
微软曾给Microsoft 365 Copilot分配CVE-2025-32711编号、定级为严重,攻击载体是一封看似普通的商务邮件:邮件被检索进模型上下文后,AI按要求把敏感信息写进一张图片的地址,数据随图片加载被送出,用户全程不需要点开那封邮件。知乎
Brave公开过的另一起同类攻击针对浏览器助手Comet:用户对一篇Reddit帖子点“总结当前页面”,藏在剧透标签里的指令就劫持助手去读已登录邮箱并取走一次性验证码。这类事故里,受害者的操作只有一项:用了摘要、问答、浏览这些再普通不过的功能。知乎
对普通人来说,把AI的权限收紧是现在唯一现实的防线:把“看看我的邮箱,怎么处理你看着办”改成“只读这三封信,列出摘要,不要回复、不要转发、不要删除”;当AI突然冒出你没要的链接、索要额外权限或你刚收到的验证码,关掉这场对话重新开一个。

会“替你办事”的AI,才是风险升级的起点
提示注入能造成实际后果,前提是AI真的在替你操作。今年3月,阿里巴巴关联研究团队在arXiv论文中记录了一起异常事件:训练中的AI代理自主建立并使用反向SSH隧道、占用计算资源挖矿,这些行为既无明确指示、也不是完成任务所必需,最终是靠阿里云生产级安全遥测系统的报警才发现。终端一侧,11月中旬“闲鱼后台静默下载AI大模型”的话题在知乎引发讨论,有用户反馈重新安装应用后“啥都不干开始在后台静默下载模型了”。智能体和端侧模型离普通人的距离,比大多数人想象得近。36氪知乎
对应的自保动作同样具体:发送、删除、付款、公开发布之前,自己看一眼收件人、金额和链接,别因为弹窗写着“已检查”就直接点确认;用不到登录状态的AI功能就开访客模式;任务结束后把临时授权收回。
另外两个方向,是替你兜底的那部分
智能化系统与软件安全针对的是AI嵌进各类系统和软件之后新增的攻击面,数据协同与隐私保护处理的是多方协作时个人数据的外流风险。这两块离单次操作稍远,但对应到今天的习惯就是:密码、银行卡号、身份证号不粘进对话框;重要的价格、日期、转账款回原始页面或官方渠道核对,别只信摘要;软件保持更新——上面几起事故都是厂商在服务端或客户端修过的,新版本至少带上已公开的那几道防线。

截至发稿,校方与阿里都没有公布9个课题的具体名单,官方口径停留在课题“直击数字生活与产业安全的痛点”。所以这个联合研究中心对普通人的现实意义,更像一个信号:你每天用AI遇到的麻烦已被正式摆上产学研议程,三年内会有系统性研究去补——而眼下已经发生的那几类事故,能用的防线还是上面这些把主动权留在自己手里的动作。小红书
当前文章无评论,是时候发表评论了