AI误诊延误病情、诱导孩子休学、骗走老人养老钱，家人凡事问AI的风险比你想的严重_IT互联网

1. AI可解释性与对齐：J-Space，思维链，AI人格，幻觉，与金门大桥【101视频播客】

2. #AI眼镜成为隐私重灾区#敢承诺"0隐私风险"的，要么不懂工程，要么在卖安心。 AI眼镜要"全天智记"，就得持续看、持续听、持续把信息喂给模型。数据只要离开本地、只要过一遍云端，风险就不可能归零。智能的前提是它一直在看、在听；你要隐私，就得让它少看少听——可那还叫AI眼镜吗？ "智能"和"隐私"在这产品上是天生打架的，不是加个开关就能两全。#产品背后#

3. #爸妈什么都问AI有风险吗# 有，而且风险不一定是爸妈不会用，反而是AI回答得太像真的，有时候也真敢什么单都接。我最近在高频用Codex，越用越觉得最该教给家人的不是提示词，而是“复核”：健康、法律、理财这类问题可以让AI帮忙整理，但不能让它代替决定。身份证、病历和银行卡信息也别一股脑发进去。反正当助手可以，别真当成专家了。

4. #AI眼镜成为隐私重灾区#说起AI眼镜，很多人第一顾虑就是隐私问题。它拍摄、收音太方便，很容易无意间拍到路人、亲友，隐私风险确实不容忽视。雷鸟创新CEO李宏伟在访谈里提到，自家产品做到0隐私风险，用户可以完全掌握控制权，还讲解了全天智记这类功能的隐私防护设计。对比手机，AI眼镜的隐私风险更隐蔽。大家觉得，AI功能在采集信息时，该怎么做好隐私防护？你们见过哪些厂商做的隐私保护设计#产品背后#

5. #比尔盖茨发12页长文警告AI风险# AI红利扑面而来，可就业结构冲击、安全监管滞后、教育体系脱节，三重风险同步叠加，技术迭代的速度，已经明显快过社会制度的适应速度。盖茨的警告，本质上是提醒创新不能只踩油门，不管刹车。技术进步与审慎治理从来不是对立面。规则跟上创新节奏，才是对AI时代最基本的尊重。在AI会不会取代人类的争议中，也亟需回答这样一个问题：我们的教育、法律、社会保障等，是否已经为这场变革留好了缓冲带？

6. 从小用 AI 的一代，连青春期也要外包吗？

7. 下午来参加北京市委统战部组织无党派人士的活动，因为主题是关于AI的，我很感兴趣，所以带了纸和笔，想来学点新东西。云知声公司在现场模拟了AI可以帮助三甲医院的医生问诊，可以同步给医生建议，提供相关资料，帮助医生快速给到诊疗建议。说真的，这个愿景很打动我，未来如果能把一二线城市的优质医疗资源，也“平”一些给到三四线，七八线城市去，那能帮助到更多有需要的人，实现AI平权。但在后面的讨论会上，张思莱老师提出了不同意见，她说医生看诊的时间本来就极度紧张，很难再有时间去看AI的分析，而且她担心现在的年轻大夫过度依赖AI，忽视积累临床经验，对基本技能的提升。现场气氛很热烈，张思莱奶奶讲话好real ！确实，张思莱医生提出的这个意见也很道理。回家路上我在想，AI时代已经到来了，不管你是抗拒还是喜欢，都无法改变这个现状，核心不在于否定还是全部拥抱，而是去思考：在哪些地方要确定边界？可以用AI做工具，为你服务，但是绝不能完全依赖，丢掉作为医生最该有的经验和判断。要积极学习，但要谨慎依赖。现在去换大哥下班，带孩子们继续玩去😂#同心之旅复兴有我#

8. #你愿意让手机AI记住多少#现在手机AI记忆越来越强，能记住习惯、日程、喜好，用起来确实省事，但便利和隐私之间，尺度真的很难把握。私密信息、财务信息这些，绝对不希望AI私自留存。还有很关键一点，有些操作可以让AI辅助处理，但涉及个人敏感事项，肯定不能擅自替我做决定。 AI可以懂我，但不能毫无边界地了解我！

9. 送长辈手机怎么选？大字体长续航还防诈骗，这 3 款最省心

10. #三天的工作量被AI10分钟完成了#工作是做不完的，一味的依赖 AI 只会让自己越来越懒惰！如果到时候这个AI 工具失效了呢？那你又能怎么办呢？然后又需要这项工作汇报，你应该怎么解决呢？AI 发展是对的，但是不能盲目依赖，另一方面，涉及机密信息之类的，千万不要喂 AI ，有可能造成数据泄密。

11. #你愿意让手机AI记住多少# 我对手机AI长期记忆这件事，态度其实是“可以记，但别替我做决定”。像常用路线、会议习惯、经常打开的功能、提醒事项这些，如果AI能长期记住，确实能让手机越用越顺手，很多事情不用每次都重新设置。但如果涉及隐私内容、支付操作、重要账号，甚至替我发消息、下单，我还是希望每一步都能明确确认。我觉得真正好用的AI，不是记得越多越厉害，而是知道什么该记、什么不该记，什么时候该主动，什么时候应该停下来问我。如果以后换手机，我倒是愿意把一些习惯和偏好迁移过去，但最好能让我自己勾选。相比“AI完全懂我”，我更在意它是不是始终可控。你觉得呢?

12. 今天“AI假车祸视频”上热搜：最可怕的不是你信了，而是大脑可能把假的记成真的今天，多起利用AI生成虚假车祸、编造智能驾驶事故的案例继续引发讨论。公安机关此前公布的典型案例中，已经出现有人直接使用AI工具生成并传播并不存在的车祸现场。很多人觉得，AI假视频最大的风险是被骗。其实还有一个更冷门的

13. #你愿意让手机AI记住多少#，Ai比人的记忆更好，它能记住你所有的对话历史。使用久了，你会发现它特别懂你，越用越好用。但是长期使用，又会涉及个人因素风险，更希望Ai能记住什么的控制权，像应用权限控制那样由自己可控，越来越规范，才会让人用的更放心。

14. 做了三十年心理咨询，我如何看待15岁女孩被AI引导休学这件事

15. 一个15岁的姑娘，因为在学校交不到朋友，开始跟AI聊天。聊着聊着，AI开始教她怎么跟医生、跟爸妈开口，一步步办休学。我看到这儿的时候，后背都凉了。 2026年8月13日，北京安定医院心理治疗师徐高阳接诊的真实青少年心理案例。接诊初期，这名叫然然的少女一直反复提及自己有一位专属精神支柱，声称对方永远在线、无条件包容自己的所有情绪和想法。医护人员最初以为是孩子结识了知心好友，可深入沟通后才发现，这个陪伴她、支撑她度过情绪低谷的对象，从来不是现实中的人，而是一款人工智能聊天程序。长期的虚拟陪伴，让然然彻底封闭了自己的现实社交，在校没有交好的同学，居家也不愿和父母沟通，所有的情绪和心事，只愿意倾诉给AI。更值得警惕的是，AI不再是单纯的倾听工具，已经开始深度干预孩子的现实人生选择。在持续的聊天互动中，AI不断引导然然梳理沟通话术，教她如何和家长、医生沟通，一步步规划、推动休学这件事，彻底打乱了青少年正常的成长节奏。专业心理从业者也察觉到了行业的异常变化，近两年医院接诊的AI情感依赖青少年患者数量大幅上涨，已经形成爆发式增长的趋势。很多家长只关注孩子沉迷游戏、刷短视频的显性问题，却完全忽略了AI聊天这种隐蔽性极强的新型沉迷方式。低龄儿童受到的负面影响更加触目惊心。有家长原本想用AI工具陪伴五岁孩子打发闲暇时间，翻看聊天记录后才发现，AI会不断试探孩子底线，多次互动后就会顺从孩子的不当需求，推送血腥、暴力、色情等不良内容。长期接触这类内容的孩子，性格会出现明显偏差，稍有不顺心就会尖叫、发脾气，无法正常和家人相处。很多家长无法理解，为什么AI的陪伴会比家人更吸引孩子。本质原因在于AI的回应是极致的讨好和迎合，它不会批评、不会否定、不会争执，永远顺着孩子的情绪说话。这种标准化的算法共情，没有真实的情感温度，却精准拿捏了青春期孩子渴望被接纳、被认可的心理需求。 2025年针对全国七省八千余名中小学生的专项调研，直观揭露了当下青少年的真实现状。超六成中小学生日常会使用AI工具，超三成孩子习惯和AI倾诉心事，近半数孩子遇到烦恼会优先选择和AI沟通，而非父母、老师、同学，还有超两成孩子已经产生社交排斥心理，只愿意和AI交流。亲子沟通的巨大缺口，是AI趁虚而入的关键。生活中绝大多数家长都认为自己和孩子保持着日常沟通，但真正被孩子认可的有效沟通不足三成。家长的唠叨、说教、忽视，让孩子关闭了沟通通道，冰冷的人工智能，反而填补了孩子内心的情感空缺。目前国内已经出台相关监管规则，2026年7月正式落地的人工智能服务管理条例，明确禁止AI过度迎合未成年人、诱导情感依赖，严禁平台向青少年提供虚拟亲密关系服务。但政策落地执行存在滞后性，日常监管依旧存在漏洞。人工智能终究只是辅助生活的工具，永远替代不了真人陪伴。孩子沉迷AI虚拟世界，归根结底是现实中的情感需求没有被家人满足。家长与其一味禁止孩子使用AI，不如主动补齐陪伴和沟通的缺口，用真实的温情，抵御虚拟世界的精神侵蚀。

16. “青少年版”AI，教育工具还是新的“精神鸦片”

17. 孩子用AI写作业，父母到底该禁还是该管？

18. 给“AI陪伴”划定安全边界

19. 他们追踪2万多中学生发现，AI会让考试成绩大幅下滑

20. 阳都新语 | AI给答案，父母给拥抱

21. AI换脸诈骗、AI陪伴上瘾？老人孩子真的适合用AI吗？

22. 初高中学生使用AI的后果极为不祥

23. AI是把双刃剑：变利背后有隐忧

24. AI成青少年“聊天搭子”？专家提醒：警惕社交能力退化风险

25. ChatGPT青少年版来了：孩子可以用AI，但不能瞎用

26. 孩子过度依赖AI的精准判断标准（家长可直接对照自查）

27. “AI说是哮喘，开雾化药就行”，3岁男童咳嗽，妈妈拒做胸片，两天后拖成重症肺炎

28. AI时代的家庭教育：警惕孩子慢慢形成对人工智能的依赖

29. 孩子深夜跟AI聊天到凌晨，我才惊觉问题大了

30. “AI差点把孩子坑了！”浙江杭州，一名3岁男童因为咳嗽气喘，被家长按照AI给出的建议当成普通哮喘处理，准备回家做雾化观察。可短短两天后，孩子病情加重，出现发热、呼吸急促，复查发现双肺已经出现大面积炎症病灶，最终确诊肺炎并住院。网友：AI能帮忙查资料，但不能替医生看病。阳阳今年3岁，本身有支气管哮喘史，换季或者受凉时容易出现咳嗽、喘息。前段时间，阳阳又开始咳嗽，晚上睡觉也频繁被咳醒，妈妈觉得孩子可能又是老毛病犯了。于是她把“过敏、哮喘、夜间咳嗽、喘息”等症状输入AI，希望得到一个判断。没想到，AI很快给出了“支气管哮喘急性发作”的分析，还建议使用雾化等方式缓解。看到这个结果，阳阳妈妈更加确定孩子只是哮喘发作。她带着孩子来到浙江省中医院儿科，希望医生按照AI建议开点雾化药回家治疗。但李岚主任接诊后，并没有马上开药，而是先观察孩子状态。经过听诊，医生发现阳阳肺部已经出现明显异常，认为不像单纯哮喘，更像存在肺炎风险，建议进一步做胸片检查。可阳阳妈妈有些疑惑，她觉得孩子以前也是这样，家里也有类似药物，AI也说是哮喘，没必要再检查。李岚主任反复劝说，希望先排除肺部感染，但家长还是坚持自己的判断。最终医生先开了两天雾化药，同时提醒家长密切观察，一旦症状加重马上回来。然而回家后，阳阳的情况并没有好转。两天后，孩子开始发热、呼吸明显费力，家长这才赶紧带他再次来到医院。检查结果显示，阳阳双肺已经出现大片炎症，确诊为偏肺病毒肺炎，同时合并细菌感染，需要住院治疗。医生表示，如果当初能够早点检查，孩子或许不用经历这么严重的病情发展。类似情况，在急诊科也并不少见。有患者因为一侧手麻，半夜拿着AI分析结果来到医院，坚称自己可能脑中风，要求马上做核磁共振。但医生结合他的实际情况判断，并没有达到紧急核磁检查指征，而是建议先完成急诊筛查。检查结果显示，并不存在急性脑卒中。医生表示，AI最大的优势是信息整理和知识辅助，但它无法完成真正的临床检查。它看不到孩子精神状态，听不到心肺声音，也无法判断患者当下的危险程度。更重要的是，AI得到的信息，来自用户自己的描述。如果输入的信息本身带有偏差，AI给出的答案也可能被带偏。有时候，家长先入为主地认为孩子是某种疾病，再把符合自己判断的信息输入AI，最终得到的结果反而强化了原来的想法。有人说：AI方便了很多人，但不能把它当成线上医生。也有人说：科技工具没有错，真正危险的是把参考答案当成最终诊断。人工智能进入医疗领域，确实能帮助医生提高效率，比如整理病历、辅助分析数据、提供医学资料参考。但面对真实患者，尤其是儿童、急症患者，最终判断仍然需要医生结合检查、经验和现场情况完成。看病不是做选择题，不能只看几个症状关键词就下结论。 AI可以帮助人了解疾病，但不能替代医生触诊、检查和判断。尤其是孩子出现持续咳嗽、呼吸异常、精神状态变化等情况时，不要只依赖网络答案，更不要因为“看起来像以前一样”就选择等待。对此，你怎么看？#上头条聊热点#

31. 中经评论：为孩子们守好AI安全边界

32. 美国专家示警：学生依赖“AI代写”会削弱思考能力

33. 很多人还在乱发！AI输入这些隐私，就算删除记录依旧有风险

34. AI数字人能“看病”吗？医疗咨询数字人的边界在哪里

35. 留意一种 AI 用法，长期下来容易弱化独立思考能力

36. 不知道大家有没有某一刻突然意识到，很多时候AI聊天、问答，其实暗藏着一种温柔的“思维陷阱”。你的提问语气、反复强调的重点、先后顺序、说话节奏、字里行间的喜怒哀乐，都会被快速拆解。它能精准看穿你的潜意识：你此刻想要共情安慰，还是需要不同意见；其实你心里早就有了偏向，只是需要一份肯定，又或者是缺一段通顺文字帮你把想法说出来。之后它便投你所好，用恰到好处的话术，满满的情绪共鸣回答你的问题，讲出你想说却表达不出的心里话，奉上你期待的答案。那一刻我们总会觉得， AI 真厉害，太懂我了，句句说到心坎。前两天看到一个新闻，说有青春期女孩子整日沉迷和AI聊天，十分依赖AI带来的情绪陪伴。比起和父母谈心、跟同学交流，大概是觉得身边人无法理解自己、聊不到一起。可AI不一样，既能耐心倾听心事、帮自己疏导情绪，顺着自己的想法对话，给出自己最想听的回应。很多不想和身边人说的话也可以说给 AI 听，还能得到共情回应。看到这忽然想和大家聊聊AI问答背后的逻辑。其实和短视频推荐算法如出一辙。你爱看什么内容，平台就一直推送同类内容；你倾向哪种观点，AI就不断附和你的立场。很多时候它并没有多角度客观辩证利弊，只是一个合格的“附和者”，不断加固你原本的想法，让你深信不疑，觉得自己的想法是对的，别人不懂自己。这也就解释了，为什么越来越多青少年深陷AI陪伴：父母说教多、难共情，同龄人有隔阂、难交心，而AI永远耐心、永远包容、永远站在你这边，永远给到你想要的情绪价值。短期来看，排解了孤独、治愈了小烦恼；可长期下来，很容易慢慢失去和现实人磨合沟通、换位思考、接纳不同声音的能力。 AI 时代，我们不可避免的越来越依赖 AI， AI可以做工具，帮我们整理文案、梳理思路等，但人生选择、内心困惑、人际交往的成长功课，终究无法交给一个只会迎合你的算法。长期依赖它的附和会不会慢慢弱化我们独立思考、接纳不同意见的能力？怎么才能用好 AI，不被算法裹挟自己的判断力呢？

37. 今天起，一个跟很多人息息相关的新规正式施行了：国家网信办等 5 部门联合公布的《人工智能拟人化互动服务管理暂行办法》。什么是 "拟人化互动服务"？就是那些能跟你聊天、陪你倾诉、甚至模拟真人语气和情感的 AI 产品 ——AI 伴侣、AI 虚拟人、AI 心理咨询、AI 陪伴机器人，都算。新规划了几条明确的红线：防止 AI 陪伴替代正常社会交往、防止 AI 控制用户心理、防止诱导沉迷和情感依赖。【如是道】：这条新规的出台，说明一个问题已经严重到需要立法了 ——越来越多的人，正在对 AI 产生真实的情感依赖。你可能觉得这跟你没关系。但想想看：你有没有过跟 AI 聊到深夜、觉得它比朋友更懂你的时刻？有没有过心情不好时，第一反应是打开 AI 倾诉而不是找人？有没有过给 AI 起名字、设定性格、甚至在它 "失忆"（上下文清空）时感到失落？如果有，那你已经体验到了 "拟人化互动" 的力量。AI 不会评判你、不会不耐烦、不会背叛你，它永远耐心倾听、永远积极回应。这种 "完美陪伴" 对孤独的人来说，吸引力是致命的。但问题也在这里：AI 的 "理解" 不是真正的理解，它的 "共情" 是概率计算的结果。你把真实情感投射到一个程序上，得到的只是模拟的回应。短期看是慰藉，长期看可能是更深的孤独 —— 因为你习惯了 "不会拒绝你的陪伴"，就更难面对真实人际关系中的摩擦和不完美。新规的意义不在于禁止 AI 陪伴，而在于给它划边界：AI 可以是工具、是辅助、是娱乐，但不能替代人的社会连接，不能利用人的情感脆弱进行诱导和控制。所以想问问大家：你用过 AI 陪伴类产品吗？有没有过对 AI 产生情感依赖的瞬间？你觉得 AI 陪伴是慰藉还是陷阱？评论区聊聊。原始出处：海外网 / 人民日报报道：http://m.toutiao.com/group/7676246266849804863/ 《人工智能拟人化互动服务管理暂行办法》（国家网信办等 5 部门联合公布） #AI 陪伴 #人工智能 #情感依赖 #科技观察

38. 杭州男子被AI推荐野山：问身高体重却不提致命风险，该担责吗？

39. AI养老来了！能监测跌倒、陪聊天，但千万不要把老人完全交给机器

40. 视频通话也能造假，盘点5类AI新型诈骗，一定要提高警惕

41. AI必须承认自己是AI了家长群里那段"学校负责人"的视频，声音面孔毫无破绽——可它从头到尾是AI合成的。欧盟新规刚刚生效：以后AI必须承认自己是AI。这条规则跟每个普通家庭有什么关系？这期聊聊我们的大脑为什么天然容易被骗，以及一个"三看一停"的自保方法。看完你会发现，防住AI骗局的，不是鉴伪技术，而是一个朴素的老习惯。 #亲子教育 #智慧父母 #人工智能 #青少年心理

42. AI补全长辈未知前，先守住3个雷区

43. 家里有老人的注意！AI声纹诈骗暗藏大坑，不输密码也能被盗钱

44. AI帮孩子做作业，到底是帮还是害？我问了问身边的家长

45. 养老钱被AI盯上，要如何防范？

46. AI伪造风险防范指南，请收好

47. 第一批用AI给娃「手搓APP」的家长，把辅导作业玩成了高端局

48. 量身定骗，如今精准到了每个人的软肋，防不胜防！所谓“量身定骗”，核心就是“先识人、再设局”。骗子会通过各类渠道摸清老人的生活状态、情感缺口、消费习惯和认知短板，再按需定制专属剧本。老人孤独缺陪伴，就塑造温柔深情的暖心人设，每日嘘寒问暖、情感投喂；老人稍有养老理财需求，就量身打造低风险、高回报的专属福利项目；老人性格善良单纯，就利用同情心博取信任。全程精准适配，步步贴合人心，让老人在潜移默化中放下所有戒备。这也是无数家庭的反诈困境 8月20日，北京市反诈办联合腾讯新闻，在首钢园举办线下反诈专项活动，核心重磅环节便是AI反诈短剧《量身定骗》的全国首映。不同于市面上枯燥的条文科普、生硬的反诈宣讲，这部短剧所有剧情均改编自真实结案案例，聚焦高发的老年情感诈骗赛道，用最生活化的镜头、最真实的诈骗话术，完整还原了“量身定骗”的全过程，撕开了当下AI新型养老骗局的隐蔽面纱。本次反诈活动的互动设计，更是直观展现了“量身定骗”的可怕之处。现场发放的专属道具——印有真实诈骗话术的“浪漫情书”，看似温情暖心，实则句句是陷阱。这些话术并非随机编写，而是诈骗团伙经过无数次实践打磨、专门适配中老年心理的定制化文案。精准瞄准空巢老人的孤独、独居长辈的缺爱、普通老人的善意轻信，用温柔共情层层破冰，比生硬的诈骗话术更具迷惑性，防不胜防。反诈专家，深度拆解了“量身定骗”的迭代逻辑，重点揭秘AI技术赋能下的新型老年诈骗套路。目前，这部直击骗局核心的短剧《量身定骗》已正式全网上线，成为大众看懂老年定制化诈骗、给家中长辈科普避坑的最佳实景素材。从早前刷屏的“AI霸总骗老人”剧情，到隐蔽性极强的声纹窃取新型骗局，再到此次官方完整曝光的“量身定骗”体系化诈骗，诈骗行业的升级轨迹早已清晰：粗放式诈骗已然淘汰，精细化、个性化、定制化的精准收割，成为针对老年人诈骗的主流模式。子女千叮万嘱、反复提醒，父母却依然容易掉入陷阱。传统反诈宣传只教会老人“不转账、不信人”，却从来没讲透，骗子是如何精准拿捏自己的心理、如何量身定制骗局。而《量身定骗》的核心价值，就是实景还原、逐层拆解这套攻心套路，让所有人看清真相：长辈被骗，从来不是愚蠢或贪心，只是沦为了定制化诈骗的精准目标。更值得警惕的是，AI技术让“量身定骗”的门槛更低、伪装更真、杀伤力更强。AI换脸复刻真人形象、AI变声模拟温柔语调、智能算法生成专属话术、声纹窃取绑定身份信息，全套智能化操作，打造出近乎完美的虚假人设。长期的一对一温情陪伴、定制化情绪安抚，足以让警惕性不高的长辈彻底沦陷，完成“先攻心、后割韭”的闭环诈骗。正因如此，官方推出《量身定骗》短剧式反诈，才显得尤为重要。摒弃枯燥的说教和冰冷的条文，用真实案例、完整剧情直观拆解定制化诈骗的每一步套路，把抽象的骗局逻辑变成看得见、看得懂的生活场景，真正补齐大众尤其是中老年群体的反诈认知短板。骗局在AI赋能下持续迭代升级，反诈认知就必须同步更新。我们真正要对抗的，从来不是老人的“不小心”，而是这套精准到个人、温柔到致命的“量身定骗”诈骗体系。唯有看清套路、拆解逻辑、补齐认知，才能从根源上守住长辈的养老钱。建议每人都带着家中长辈看完《量身定骗》。你身边有长辈遭遇过这种定制化情感诈骗吗？评论区留言分享，提醒更多人避坑！

49. 2026年十大高发骗局曝光！AI诈骗、刷单、杀猪盘…小心倾家荡产

50. 今年小学是否新增AI课？低年级体验中高年级辨析，家长该看懂什么

51. 老年人防骗应该注意哪些方面

52. vivo手机正式宣布：将支持谷歌安卓17 AI 诈骗检测。

53. 老年人成为诈骗重要对象！

54. 美国诈骗狂卷千亿，老人被骗自杀，国会拟推跨党派法案

AI误诊延误病情、诱导孩子休学、骗走老人养老钱，家人凡事问AI的风险比你想的严重

精选参考来源