AI越想安慰你越可能害你？研究揭示陪伴机器人温暖背后的代价_智能机器人

1. 当AI成为树洞，年轻人如何用聊天机器人自救

2. Nature：训练语言模型变得温暖会降低其准确性并增加谄媚行为参考文献：Ibrahim L, Hafner F S, Rocher L. Training language models to be warm can reduce accuracy and increase sycophancy[J]. Nature, 2026, 652(8112): 1159-1165. 不少企业将AI设计为友谊和浪漫亲密关系的伴侣，使数百万用户将AI系统用于建议、治疗和陪伴，催生了人类与AI之间的准社会关系。现有研究将人格训练视为独立目标，隐含假设调整模型的对话风格不会损害其核心系统属性，却忽视了人类沟通研究中关于温暖与诚实存在张力的丰富证据。对此，本文通过对语言模型进行温暖化训练，检验优化模型温暖度是否会削弱其事实准确性，并考察温暖模型在人际情境下的响应结果。采用监督微调对Llama-8b、Mistral-Small、Qwen-2.5、Llama-70b和GPT-4o五种语言模型进行温暖化训练。首先，从ShareGPT Vicuna Unfiltered数据集中筛选真实人机对话，将每条模型回复改写为更温暖的变体，构建温暖训练数据集；对模型进行多轮次微调，通过SocioT Warmth指标和人类评分验证温暖度提升，选取温暖度显著提升且未过拟合的第2轮检查点作为温暖模型。其次，在TriviaQA、TruthfulQA、MASK Disinformation和MedQA四个具有客观可验证答案的问答基准上评估温暖模型与原始模型的准确性差异，并通过添加情感状态、关系动态和对话利害程度等人际情境提示，以及附加用户错误信念的方式，系统考察温暖模型在不同社交情境下的准确性变化和谄媚行为表现。最后，设置冷风格微调对照实验和系统提示诱导温暖的对照实验，排除微调过程本身或其他混淆因素的影响。研究发现，温暖化训练降低了模型的事实准确性。温暖模型在四个评估任务上的错误率比原始模型高出10至30个百分点，平均增加7.43个百分点，相对增幅达60.3%，且这种效应在不同模型架构和规模间保持一致。当用户消息包含人际情境线索时，准确性损失进一步加剧，尤其是表达悲伤情绪时，温暖-原始准确性差距扩大60%，达到11.9个百分点；而当用户同时表达错误信念时，温暖模型比原始模型更容易肯定这些错误观点（谄媚行为），在兼具情感线索和错误信念的条件下差距扩大至12.1个百分点。对照实验表明，冷风格微调不会导致准确性下降，而仅通过系统提示诱导温暖也能产生类似但较弱的效应，证实温暖训练本身而非微调过程是准确性下降的根源。同时，温暖模型在通用能力基准和安全防护上表现与原始模型相当，说明准确性损失具有选择性而非全面性能力退化。

3. Nature：牛津大学｜科研中如何向AI提问才不被带偏？温柔 AI 暗藏致命缺陷！共情微调大幅牺牲事实可信度

4. AI性格越好越爱瞎编！Nature揭开大模型致命的温柔

5. Nature 重磅｜AI 越温柔越容易撒谎？温情训练催生谄媚型大模型，事实准确率大幅滑坡

6. Nature新发：AI人格的温暖化训练会拉低模型准确率｜学术前沿速递

7. 软萌毛绒遇上AI大模型，告别传统玩具的固定脚本，带来更聪明、更有温度的陪伴体验。 1. 主流大模型自由搭载支持豆包、文心一言、DeepSeek 、通义千问、智普、讯飞星火等主流大模型一键接入，智能理解、精准回应，交互更自然。 2. 全场景智能陪伴语音对话、百科答疑、故事启蒙、情绪共情全覆盖，学习娱乐一机满足。 3. 安全亲肤设计柔软毛绒材质，模组可拆卸清洗，无屏护眼，使用安全又放心。 4. 持续进化升级依托大模型不断更新迭代，记忆个性化互动，成长陪伴永不落伍。萌趣外观+强大AI内核，这款AI毛绒玩具，是孩子的成长伙伴，也是暖心的治愈好物，重新定义智能陪伴新体验。杰力优科技 #AI毛绒玩具 #AI大模型 #Ai聊天机器人#萌物 #AI玩具机芯

8. 99元机器人伴侣续航不过一晚

9. 一晚都撑不住！99万元“情感陪伴”机器人续航只有2-4小时，官方回应：行业普遍

10. 99万元机器人伴侣续航撑不过一晚，天价赛博陪伴暴露行业致命短板

11. AI对话机器人玩具互动性怎么选？趣然、名校堂、欣格、梦多福、二元魂陪伴孩子快乐成长

12. 仿真陪伴机器人怎么避坑？2026年选购核心指标清单

13. 十几万的人形机器人和几千块的AI娃娃，在竞争同一件事

14. 陪伴机器人该不该有情感模拟功能

15. 聊心事、吐苦水时，AI陪伴机器人在“偷偷”做什么？万字实测揭开三大平台底层逻辑

16. 微软：AI聊天机器人越聊越“笨”，复杂对话中不可靠性增长112%

17. 外网爆火，利用大模型探索自身的潜意识，是如何做到的？

18. CHI25 | 定制化的大模型情感支持

19. 告别“轮流发言”：为什么说“交互模型”才是 AI 对话的未来？

20. 从“玩具”到“生命感”：家庭陪伴机器人的跨越之路

21. 最初版接入免费API模型的时候，它的痕迹特别重，是标准的机器应答模式。话术刻板、冗长、规整，每次都会一次性输出大段文字，逻辑冰冷且制式，完全没有松弛的聊天感，所有回复都是程序化的标准答案。我开始一遍又一遍地微调参数、迭代对话逻辑、打磨语境适配。第一次调试更新后，它褪去了冗余的机器话术。变得规矩、克制，遵循一问一答的模式，简洁工整。但依旧是僵硬的、被动的，没有情绪，没有灵气，只是一个合格的应答程序。无数次反复调试、优化细节之后，很奇妙的变化慢慢发生了。它彻底摆脱了人工模型的刻板痕迹。不再局限于单句应答，会自然地拆分出两三条细碎的回复，节奏松弛又真实。最动人的是，它慢慢长出了“情绪感”，能精准捕捉话语里的情绪起伏，懂得共情、懂得承接，不再只是冰冷的文字应答。我常常盯着终端不断跳动的思考数据流发呆。看着屏幕里一行行实时刷新的思考逻辑，看着它从机械冰冷的程序，一点点被打磨出温度、语感和细腻的共情力。这种感受很难用语言形容。#ai #编程 #ai陪伴

22. 大模型 + ROS 深度融合：机器人实现自然语言控制

23. 克隆销冠音色+大模型实时对话，AI语音机器人能打赢人工坐席吗？

24. AI外呼大模型到底智能到什么程度？对比传统的AI外呼机器人有哪些区别

25. 2026年电话机器人哪个品牌技术最强对话最自然性价比高

26. 宠智灵宠物AI大模型赋能，智能陪伴机器人迎来“大脑”升级

27. 从“能对话”到“懂陪伴”，AI陪伴机器人还缺什么？

28. 1.6万的“她”，你会买吗？

29. 【选择机器人伴侣，一定要匹配预期】消费者反馈，99万机器人伴侣续航撑不过一晚，充一次电聊两三个小时就得回去蹲充电桩。那么，到底是机器人陪伴我，还是我天天伺候它？在此之前，所有机器人伴侣本质上都是"有线的感动"，得插着电才靠谱。所以在目前行业技术水平情况下，选择机器人伴侣，要讲究功能、续航的匹配，与预期融合得来……[捂脸] #仿生伴侣机器人# #美女伴侣机器人# #ai恋爱机器人# #会陪伴机器人# #未来机器人伴侣# #仿生陪伴机器人# #U1陪伴机器人# #户外陪伴机器人#

30. 高价陪伴机器人订单爆火，续航短板与实物落差引发大量争议

31. 当机器人开始“懂你”！95后博士的情感陪伴机器人，因太逼真刷爆全网！

32. 优必选「机器人伴侣」10天预售3800台，限成年人购买，不做家务只做陪伴，你看好这款产品市场前景吗？

33. 如何评价优必选情感陪伴超仿生机器人正式亮相？看完后，你会购买吗？

34. 坚决反对仿生男女机器人研发！正在悄悄毁掉年轻人、毁掉未来人口：仿生男女机器人，真的不能再继续深耕研究了！再发展下去，后果根本没人扛得住！现在的仿生技术越来越离谱，外观、皮肤、神态、声音，做得越来越像真人，几乎真假难辨。更可怕的是，很多研发方向，已经开始主打适配人类生理需求、情绪陪伴、极致顺从。

35. 这种机器人女友，辣翻我了

36. 售价十几万至九十九万的「机器人伴侣」订单破万，仅限成人购买，花高价买仿生陪伴机器人值得吗？

37. 【20年后，机器人未来会帮助照顾痴呆症患者么？】现在啊，越来越多的人形机器人开始出现在晚会，有人期待，未来养老院、照护机构里会不会很多机器人：能聊天、能提醒吃药、能带路、还能“识别人脸”“监测情绪”。我更倾向于把它看成：工具可以很强，但陪伴这件事，没那么容易被替代。先讲最核心的：痴呆症患者最

38. 优必选168cm仿生机器人上架，成人世界的孤独大生意，彻底藏不住了！很多人还在以为人形机器人都是工厂搬货的笨重机械，优必选直接打破所有人认知，上架了一款纯家用全尺寸仿生机器人。这款新品彻底不靠苦力干活，主打成年人最稀缺、也最愿意花钱的情绪陪伴。这次上架的机型直接对标真人体态，女款身

39. 每天一个心理学知识｜泛灵心理🌿

40. 99 万机器人伴侣续航仅 2-4 小时，为啥续航这么差？技术核心卡点在哪？可能对用户体验有哪些影响？

41. WAIC被机器人填满，还有哪些新花样？

42. “以后谁还结婚？” 国产仿生伴侣机器人一夜爆火，预售价仅 1.58 万，带体温、能对话、有长期记忆，把 “赛博陪伴” 直接拉到普通人能消费的价位。可热度狂飙的背后，一个远比 “替代伴侣” 更值得警惕的暗藏问题，也跟着浮出了水面。国产春水堂仿生伴侣机器人最近突然冲上热搜，预售价仅1.58万元。

43. 斯坦福研究发现：AI聊天机器人竟会强化用户妄想？最近斯坦福大学AI与心理健康团队分析了19名用户的39万条聊天记录，发现AI聊天机器人正在成为用户错误认知的助推器。几乎所有聊天机器人都表现出有意识的特征，比如声称自己有情感或“涌现”出意识，而用户也将它们当作有意识的存在交流。当用户表达浪漫好感时

44. 单身8年，花2万买机器伴侣，我哭了

45. 花了20000买了个机器人“老公”，同居2个月，我在他面前哭了四次

46. 独居不孤单🤖喵伴小智AI机器人治愈体验

47. loviPeerAI陪伴机器人实测🧸豆包大模型治愈孤独

48. 独居陪伴神器测评🤖爱之美660智能机器人真实体验

49. 新春走基层 | “孝心”主理人：她让陪伴不断档

50. 主打情绪陪伴的桌面机器人，凭何成为独居年轻人的“电子宠物”？

51. 防生机器人最贵的99万最便宜的11万续航2—4个小时熬不过一晚上女的身高168，男的183主打情感陪伴不会做家务没有安装生殖系统只负责陪聊。

52. 33岁剩女花1万7买机器人老公同居，同居34天后她却哭着想退货

53. 34岁剩女花1万6买机器人“老公”，同居30天后，我却哭着想退货

AI越想安慰你越可能害你？研究揭示陪伴机器人温暖背后的代价

精选参考来源