张大妈

华理:LLM心理辅导框架PsychēChat

源自小红薯:大模型任我行

02-05 04:00

当前AI心理辅导模型普遍缺乏对求助者情绪动态的追踪和安全风险的研判。PsychēChat框架的出现,正是为了填补这一空白,它通过显式的情绪变化追踪和安全风险分析,结合高质量合成数据,让AI心理支持变得更专业、更安全、更具共情能力。

华理:LLM心理辅导框架PsychēChat智能速览

  • PsychēChat是首个专注于情绪变化追踪和安全分析的心理辅导框架。

  • 通过交互式角色扮演合成了高质量对话数据集PsychēDialog。

  • 采用Plutchik情感轮模型分析主要与次要情绪变化。

  • 设计了情绪管理与风险控制两大核心模块以提升辅导质量。

  • Agent模式在多项评估中表现最佳,显著优于现有模型。

华理:LLM心理辅导框架PsychēChat精华内容

传统的AI心理辅导模型往往忽略了对求助者情绪动态的追踪与潜在风险的研判。PsychēChat框架的出现,正是为了弥补这一关键缺口,通过系统化的情绪追踪与风险分析,让AI心理支持变得更安全、更贴心。

创新框架设计

PsychēChat框架的核心在于两个关键模块:情绪管理模块和风险控制模块。情绪管理模块利用Plutchik的情感轮模型,精准捕捉并分析求助者的主要、次要情绪及其动态变化。风险控制模块则负责预测求助者可能的反应,并实时评估对话中的安全风险等级,确保辅导过程在安全边界内进行。

数据与推理范式

为保证训练数据的多样性与情绪连贯性,研究者通过交互式角色扮演生成了高质量的对话数据集PsychēDialog。在推理实现上,PsychēChat提出了两种范式:Agent模式采用多代理协作管道,分工明确;LLM模式则将多阶段过程整合为一个端到端的连贯推理链,简化了流程。

性能评估结果

在SAGE、ESC-Eval和自定义的PsychēEval评估框架中,PsychēChat均表现出色。尤其在情感认知、成功率、共情性、专业性以及情绪改善评分(EIS)等指标上,显著超越了现有模型。消融研究进一步证实,情绪管理和风险控制模块对模型整体性能的提升至关重要。

Agent模式的优势

各项测试结果一致表明,采用多代理协作管道的Agent模式表现最为突出。无论是在不同模拟求助者环境下,还是在情绪改善、目标达成率和风险水平评分等具体任务上,Agent模式都取得了最佳成绩,展现了其处理复杂心理辅导对话的强大能力。

PsychēChat通过引入情绪变化追踪和安全风险分析,显著提升了AI在心理辅导中的实用性和安全性,为构建更值得信赖的AI心理健康服务铺平了道路。未来,这种精细化的情感交互能否成为人机协作的常态?

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章