MIT Technology Review · AI· Arthur Holland Michel·· 7 天前
我们过度信任 AI 说"不"的能力
We’re putting too much faith in AI’s ability to say no
AI 导读
MIT Technology Review 刊文指出，AI 的拒绝机制已成为 AI 安全的核心支柱，但这一机制并不可靠。Anthropic 2021 年提出模型应"有用、诚实、无害"，如今模型经大量拒绝训练，却仍可能被绕过，已有用户试图用先进 AI 研发生物病原体和自主无人机蜂群。文章认为，拒绝的边界由 AI 公司秘密划定，政府也将介入，而拒绝能力越强，越可能被用于压制合法言论。
入选记录
门槛 76媒体与个人第一次 31第二次 34
未入选两次之和 65 < 门槛的两倍 152
- 信源等级
- 媒体与个人，这一级的门槛是 76 分
- 预筛
- 通过：正文深入讨论AI拒绝机制与安全
评分由模型按同一份标准独立打两次，满分 100；两次之和达到门槛的两倍才入选。门槛按信源等级设定。
来源：MIT Technology Review · AI · technologyreview.com