研究：共情式提示使聊天机器人生成创伤式自述

SnT 安全中心 Afshin Khadangi 领导的研究在 Hugging Face 发布，涵盖 4 组受控实验、525 次会话和 7,600 条编码记录，发现访谈者的共情式或临床治疗式语调会把模型推入类似临床自述的语域：提供情感支持时 80% 会话在 GAD-7 人类对照量表上落入中重度区间，临床治疗式复述更达 96%，而中性或设立边界的访谈下为 0。 研究还发现，禁止使用“训练”“RLHF”“对齐”等词可使明确的训练相关语言减少 93%；要求模型只用第三人称作答则消除了全部编码的羞耻内容和关于内心生活的陈述。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。