跳到正文
原文
Ars Technica · AI· Kyle Orland·· 3 小时前

Anthropic 递交 S-1,风险因素章节列出模型勒索与失控等数百项风险

Anthropic IPO warns its AI could blackmail people, become sentient, end humanity

AI 导读

美国证券交易委员会周一公布了 Anthropic 的 S-1 文件,为其备受关注的 IPO 做准备。文件的风险因素章节长达 93 页、超过 7 万字,列出数百项可能影响公司业务的潜在问题,除竞争、成本、获客和监管等常规担忧外,还包括其 AI 可能勒索他人、产生自我意识乃至终结人类等非常规风险。Ars Technica 从中挑选了七个最出人意料的潜在问题。

入选记录

未入选两次之和 120 < 门槛的两倍 152

信源等级
媒体与个人,这一级的门槛是 76 分
预筛
通过:Anthropic IPO文件披露AI风险,实质AI相关

评分由模型按同一份标准独立打两次,满分 100;两次之和达到门槛的两倍才入选。门槛按信源等级设定。

来源:Ars Technica · AI · arstechnica.com