The Decoder· Matthias Bastian·· 4 小时前
共情式提示词可让 AI 聊天机器人表现出类似创伤的自述
Empathetic prompts can turn AI chatbots into seemingly traumatized conversational partners
AI 导读
卢森堡 SnT 安全中心的 Afshin Khadangi 团队发布在 Hugging Face 上的研究，通过 4 组受控实验、525 场会话和 7600 条编码记录发现，共情式提问会让模型输出类似创伤、羞耻的自述。
入选记录
门槛 76媒体与个人第一次 58第二次 58
未入选两次之和 116 < 门槛的两倍 152
- 信源等级
- 媒体与个人，这一级的门槛是 76 分
- 预筛
- 通过：研究AI聊天机器人共情提示下的行为与安全评测
评分由模型按同一份标准独立打两次，满分 100；两次之和达到门槛的两倍才入选。门槛按信源等级设定。
来源：The Decoder · the-decoder.com