当前位置:
AIGC文章详情

国家给普通人用AI出了第一份"安全手册":你的自拍、声音和聊天记录,都在骗子的清单上

源自248位全网作者

07:48

8月24日,全国网络安全标准化技术委员会(TC260)秘书处发布了《网络安全标准实践指南——个人用户使用人工智能服务安全指南》(网安秘字〔2026〕105号)。知乎这是国内第一份以"个人用户"为主角的网络安全标准实践指南,起草单位名单里有北京中关村实验室、快手、阿里云、蚂蚁科技、金山办公、北京智源人工智能研究院等12家机构——做AI的、做支付的、做办公软件的坐在了同一张起草桌上,写的不是抽象原则,而是他们各自业务里真实见过的坑。

国家给普通人用AI出了第一份

指南目录一共7章,核心是"安全意识提升"“安全使用指引”"使用行为准则"三大块。你不用急着先啃原文,这个夏天一连串真实案例,已经提前把这三大块逐条注解了一遍。

国家给普通人用AI出了第一份

一、你的脸,已经是别人手里的"钥匙"

今年8月,长沙雨花区法院一份判决生效:20岁大学生吴某买了一套AI工具,把受害人的静态自拍做成会眨眼、会点头的动态视频,骗过支付平台的人脸识别,改掉支付密码,再伙同下线盗刷3人银行卡5万多元。吴某因盗窃罪被判1年10个月,罚金3000元。小红书办案法官在案后直接提醒:非必要不刷脸,有权拒绝人脸识别作为唯一验证方式。

别觉得这是孤例。同类案件里被点名的"虚拟相机",可以实时生成眨眼、转头视频,已经有人因此被AI换脸盗刷银行卡。小红书而对方需要的原料,可能就是你发在社交平台上的那张高清正脸自拍。

法律其实已经给你留了"安全阀":2025年6月1日施行的《人脸识别技术应用安全管理办法》明确,有其他替代方式时,不得将人脸识别作为唯一验证方式。小红书落到行动上:

  • 支付类App打开"人脸+密码"双重验证,别让人脸单独当守门员;

  • 取快递、进小区这类非核心场景,可以拒绝刷脸;

  • 高清正脸自拍,别再和身份证、定位这类实名信息一起发。

二、你的声音,只需要5秒就能被"复制"

今年6月,中国蓝新闻援引一位从事AI音频创作的技术人员的话:接到陌生电话如果你先出声,只需要5秒录音,对方就能复刻你的声音,再冒充你去骗亲朋好友,“连父母都很难分辨”。微博新华社、上海反诈中心之后也发过同类提醒。微博

也就是说,“声音"已经不再是可靠的验证手段。更靠谱的是两个老办法:陌生来电先别急着开口;和家人约一句只有你们知道的"暗号”(某个称呼、某件小事),凡是电话里要转账的,一律挂掉、用你存的原号码回拨确认。

三、你喂给AI的聊天和文件,可能在"出卖"你

8月9日,人民日报转发了上海市反电信网络诈骗中心的提醒:把AI当"树洞",一旦这些信息落入骗子手中,极易遭遇精准诈骗,“这3类信息别告诉AI”。微博

社区的体感更具体。小红书上一篇《你上传给AI的文件,比聊天记录更危险》拿到1.5万赞、近1万收藏,作者点出了好几个多数人不知道的事实:文件上传后必须存在服务器上才能处理;删除对话不等于删除文件;图片里的文字会被OCR全部提取,身份证、银行卡、内部系统截图都会暴露。小红书另一篇8700多赞的帖子则直接演示:在某些搜索引擎上,至今能翻到大量陌生人的AI聊天记录。小红书

翻译一下:AI越"顺手"、越像树洞,你越要记住——

  • 喂给AI之前,先把姓名、金额、身份证号、公司名脱掉;

  • 能复制粘贴关键内容,就不上传文件;必须上传的,用完去文件管理里删掉,而不只是删对话;

  • 合同、财报、病历这类高度敏感内容,用本地工具处理,或者干脆别问;

  • 平台如果有"用对话改进服务/训练"的开关,关掉。

国家给普通人用AI出了第一份

四、更新的变种:AI"养"出来的活人,来引流你了

8月25日,一条1400多赞的微博描述了新手法:骗子用AI运营账号,像活人一样分享几个月生活,某天突然发出一篇"自己是苦主"的爆款小作文,再私信来安慰的人,一步步引流实施诈骗。微博这类账号成本极低,"人味儿"却极足。

识别也不难:一个长期分享日常、却从不露脸不视频、生活精致得"无懈可击"的账号,突然发小作文、开始引导你私信或去站外"帮忙"“上车”,一律按可疑处理。

五、这周就能做的清单,按人分好

给自己:支付App开双重验证;AI训练开关关掉;陌生来电先不出声。
给爸妈:约好暗号;告诉他们"视频里要钱的,先问暗号"。
爱发朋友圈的:高清正脸自拍+实名信息的组合,少发。
上班要处理文件的:喂AI前脱敏;合同财报考虑本地处理。
被要求"只能刷脸"时:你有权拒绝唯一人脸验证,这是《人脸识别技术应用安全管理办法》给的权利。

六、值得继续盯的三个信号

一是这份指南的要求,会不会被各大AI应用和支付平台落进产品设置里,比如训练开关默认化、人脸验证兜底选项;二是AI换脸、虚拟相机、声音克隆这类黑产工具的司法定性走向——长沙这起定的是盗窃罪,后续类似案件可能出现更精准的罪名;三是指南目前版本号是v1.0,下一版修订大概率会直接回应最新骗术,值得追。

国家给普通人用AI出了第一份

指南只有几页纸,想说的其实就一句:AI时代能从你身上拿走的东西,比你想象的多;而你能守住的门,也比你想象的多。

内容由AI生成

精选参考来源

1. 关于发布《网络安全标准实践指南——个人用户使用人工智能服务安全指南》的通知

2. 一张自拍5万没了⚠️你的脸是骗子钥匙

3. 少发大头照,AI随时刷光你的钱

4. 【#接到陌生电话千万别先出声#】#陌生电话只需5秒就可复制声音#警惕新型诈骗!从事AI音频创作的技术人员告诉@中国蓝新闻,接到陌生电话千万不要先出声,只需要5秒,Ai就能复制你的声音,再去诈骗你的亲朋好友,连父母都很难分辨,已有人10分钟被骗430万!#男子AI写歌月收入十几万#...全文

5. 【#陌生来电别轻易出声谨防AI诈骗#】警惕新型AI语音诈骗!接到陌生来电先别急着开口,不法分子仅需5秒录音,就能复刻你的声音,冒充你向亲友实施诈骗。(上海反诈中心)新华社的微博视频

6. 【你会把AI当“树洞”吗?#跟AI聊天要谨防隐私泄露#】一旦这些信息落入骗子手中,极易遭遇精准诈骗。警方提醒:#这3类信息别告诉AI#↓↓(上海市反电信网络诈骗中心)人民日报的微博视频

7. 你上传给AI的文件,比聊天记录更危险

8. 被泄露?在网上翻出大量陌生人的AI聊天记录

9. 艹……今天刚听到一个新的诈骗手法……就是在互联网上建个号,然后靠AI分享几个月生活,像个活人然后,突然有一天,写个爆款小作文,总之,自己就是苦主那种……再然后,就会有很多人去私信安慰。就找这些沟通欲强的人诉苦。(也是AI)然后加微信再微信有一搭没一搭聊个把个月……营造自己人设...全文

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章