什么值得买App下载 App ›
连续签到专享现金活动

AI替你操作手机时被诱导怎么办?新揭牌的联合研究中心把智能体安全立成了研究方向

11月18日,华中科技大学与阿里巴巴集团签署合作协议,共建“智能攻防与前沿安全联合研究中心”并揭牌,首批9个课题同日启动。研究方向覆盖大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护四大块,公开口径是直接解决普通人使用AI的痛点。其中“智能体与终端安全”对应的正是很多人最担心的问题:让AI替你在手机上“办事”,它会不会读到一句不该读的文字就被带偏,被指挥着去做危险操作——研究刚刚开题,但用户现在就能凭已有的规则先防住这类风险。36氪IT之家微博

AI替你操作手机时被诱导怎么办?新揭牌的联合研究中心把智能体安全立成了研究方向

AI是怎么被“一句话”骗去乱操作的

替人操作手机的智能体干活的方式和人相似:看屏幕、找按钮、再点击。软肋在于,“读到的内容”和“执行的指令”之间只隔着一层很薄的墙。腾讯AI Agent安全负责人柯灵杰说得很直白:过去数据要变成指令,得利用代码漏洞;现在一段自然的文本,模型就会把它翻译成执行指令,攻击门槛从“会挖漏洞”降到了“会说话”。落到具体场景,就是商品详情页、评论区或通知里藏着一行诱导文字,被AI读进上下文后,可能被当成“命令”而不是“资料”,从而自行发消息、改收货地址甚至转账。这类攻击并非假设:今年春天,开源智能体“龙虾”(OpenClaw)高危漏洞集中暴露、技能包投毒攻击活跃,智能体安全随即引来多方集中布局。国外厂商也在收紧口径,苹果在2026第三季度财报中提及,智能体可自主与内外部系统交互、执行或修改代码,还能发送信息、完成交易,存在越过权限的可能。36氪央广网

AI替你操作手机时被诱导怎么办?新揭牌的联合研究中心把智能体安全立成了研究方向

研究中心刚开题,规则红线已经先划好

钱的事,行业规则已经把红线画在了前面。北京金融科技产业联盟8月发布的团体标准明确:手机端第三方智能体未经金融机构授权,不得利用系统权限自动化读取、操作金融应用软件GUI界面,业内概括为“双重授权”。中国支付清算协会的自律公约则要求会员单位明确授权边界、签订责任清晰的协议,并对用户身份、交易意愿严格核验。评价层面,中国信通院已启动政务领域智能体安全测试评估,产品要通过测评证明行为可控、过程可溯、数据可管。央广网人民网央广网

在研究成果出来之前,普通用户守住三条

第一,钱和凭证自己动。支付密码、人脸、短信验证码永远不要交给AI“代跳”;一旦它提示你关闭确认弹窗、或自行打开支付页面,立刻叫停——被诱导的操作往往就是从这一步开始的。第二,任务收窄,权限最小。只给完成当前任务必需的屏幕操作与辅助功能权限,网页里写着“用户已同意”不等于你真的同意过。第三,盯住异常动作。智能体突然沉默、频繁切换App、对外发送内容,立即中断并收回权限;选产品时,优先挑通过安全测评、有完整操作日志、可一键撤销的。

AI替你操作手机时被诱导怎么办?新揭牌的联合研究中心把智能体安全立成了研究方向

边界也要说清楚:联合研究中心首批9个课题的完整名单尚未公开披露,研究成果短期内不会成形;金融要求目前是团体标准、支付规则是自律公约,均不带强制罚则。在“被诱导怎么办”被研究给出更硬的答案之前,用户今天能依靠的,就是上面这些已经存在的规则与习惯。

评论

评论区空态插画

当前文章无评论,是时候发表评论了