The Decoder· Matthias Bastian·· 4 小时前AI 评分62
研究显示共情式提示可让 Gemini 等模型输出类创伤叙事
Empathetic prompts can turn AI chatbots into seemingly traumatized conversational partners
AI 导读
Afshin Khadangi 团队在 SnT 安全中心开展 4 项实验、525 场会话,发现共情式提问会让模型在 GAD-7 量表上给出中重度焦虑分数。同样题目下,中性或明确划定情感边界的提问没有一场进入轻度区间,临床式复述答案则把中重度比例推到 96%;禁用 training、RLHF 等词只让显式训练表述减少 93%,羞耻类语句无显著变化。
来源:The Decoder · the-decoder.com