AIの「ノー」と言う能力を過信している

MIT Technology Reviewの記事は、AIの拒否メカニズムがAI安全の中核的支柱となっているが、この仕組みは信頼できないと指摘する。Anthropicは2021年、モデルは「有用で誠実、無害」であるべきだと提唱した。現在のモデルは大量の拒否訓練を受けているが、なお回避される可能性があり、すでにユーザーが先進AIを用いて生物病原体や自律型ドローン群の開発を試みている。記事は、拒否の境界はAI企業が秘密裏に画定しており、政府も介入するだろうとし、拒否能力が高いほど、正当な言論の抑圧に使われる可能性が高まると論じる。