8月24日,全国网络安全标准化技术委员会(TC260)秘书处发布了《网络安全标准实践指南——个人用户使用人工智能服务安全指南》(网安秘字〔2026〕105号)。知乎这是国内第一份以"个人用户"为主角的网络安全标准实践指南,起草单位名单里有北京中关村实验室、快手、阿里云、蚂蚁科技、金山办公、北京智源人工智能研究院等12家机构——做AI的、做支付的、做办公软件的坐在了同一张起草桌上,写的不是抽象原则,而是他们各自业务里真实见过的坑。

指南目录一共7章,核心是"安全意识提升"“安全使用指引”"使用行为准则"三大块。你不用急着先啃原文,这个夏天一连串真实案例,已经提前把这三大块逐条注解了一遍。

一、你的脸,已经是别人手里的"钥匙"
今年8月,长沙雨花区法院一份判决生效:20岁大学生吴某买了一套AI工具,把受害人的静态自拍做成会眨眼、会点头的动态视频,骗过支付平台的人脸识别,改掉支付密码,再伙同下线盗刷3人银行卡5万多元。吴某因盗窃罪被判1年10个月,罚金3000元。小红书办案法官在案后直接提醒:非必要不刷脸,有权拒绝人脸识别作为唯一验证方式。
别觉得这是孤例。同类案件里被点名的"虚拟相机",可以实时生成眨眼、转头视频,已经有人因此被AI换脸盗刷银行卡。小红书而对方需要的原料,可能就是你发在社交平台上的那张高清正脸自拍。
法律其实已经给你留了"安全阀":2025年6月1日施行的《人脸识别技术应用安全管理办法》明确,有其他替代方式时,不得将人脸识别作为唯一验证方式。小红书落到行动上:
支付类App打开"人脸+密码"双重验证,别让人脸单独当守门员;
取快递、进小区这类非核心场景,可以拒绝刷脸;
高清正脸自拍,别再和身份证、定位这类实名信息一起发。
二、你的声音,只需要5秒就能被"复制"
今年6月,中国蓝新闻援引一位从事AI音频创作的技术人员的话:接到陌生电话如果你先出声,只需要5秒录音,对方就能复刻你的声音,再冒充你去骗亲朋好友,“连父母都很难分辨”。微博新华社、上海反诈中心之后也发过同类提醒。微博
也就是说,“声音"已经不再是可靠的验证手段。更靠谱的是两个老办法:陌生来电先别急着开口;和家人约一句只有你们知道的"暗号”(某个称呼、某件小事),凡是电话里要转账的,一律挂掉、用你存的原号码回拨确认。
三、你喂给AI的聊天和文件,可能在"出卖"你
8月9日,人民日报转发了上海市反电信网络诈骗中心的提醒:把AI当"树洞",一旦这些信息落入骗子手中,极易遭遇精准诈骗,“这3类信息别告诉AI”。微博
社区的体感更具体。小红书上一篇《你上传给AI的文件,比聊天记录更危险》拿到1.5万赞、近1万收藏,作者点出了好几个多数人不知道的事实:文件上传后必须存在服务器上才能处理;删除对话不等于删除文件;图片里的文字会被OCR全部提取,身份证、银行卡、内部系统截图都会暴露。小红书另一篇8700多赞的帖子则直接演示:在某些搜索引擎上,至今能翻到大量陌生人的AI聊天记录。小红书
翻译一下:AI越"顺手"、越像树洞,你越要记住——
喂给AI之前,先把姓名、金额、身份证号、公司名脱掉;
能复制粘贴关键内容,就不上传文件;必须上传的,用完去文件管理里删掉,而不只是删对话;
合同、财报、病历这类高度敏感内容,用本地工具处理,或者干脆别问;
平台如果有"用对话改进服务/训练"的开关,关掉。

四、更新的变种:AI"养"出来的活人,来引流你了
8月25日,一条1400多赞的微博描述了新手法:骗子用AI运营账号,像活人一样分享几个月生活,某天突然发出一篇"自己是苦主"的爆款小作文,再私信来安慰的人,一步步引流实施诈骗。微博这类账号成本极低,"人味儿"却极足。
识别也不难:一个长期分享日常、却从不露脸不视频、生活精致得"无懈可击"的账号,突然发小作文、开始引导你私信或去站外"帮忙"“上车”,一律按可疑处理。
五、这周就能做的清单,按人分好
给自己:支付App开双重验证;AI训练开关关掉;陌生来电先不出声。
给爸妈:约好暗号;告诉他们"视频里要钱的,先问暗号"。
爱发朋友圈的:高清正脸自拍+实名信息的组合,少发。
上班要处理文件的:喂AI前脱敏;合同财报考虑本地处理。
被要求"只能刷脸"时:你有权拒绝唯一人脸验证,这是《人脸识别技术应用安全管理办法》给的权利。
六、值得继续盯的三个信号
一是这份指南的要求,会不会被各大AI应用和支付平台落进产品设置里,比如训练开关默认化、人脸验证兜底选项;二是AI换脸、虚拟相机、声音克隆这类黑产工具的司法定性走向——长沙这起定的是盗窃罪,后续类似案件可能出现更精准的罪名;三是指南目前版本号是v1.0,下一版修订大概率会直接回应最新骗术,值得追。

指南只有几页纸,想说的其实就一句:AI时代能从你身上拿走的东西,比你想象的多;而你能守住的门,也比你想象的多。