Anthropic、暗号学的にAIモデルの身元を証明するシステム「FlashProve」を開発中

Anthropicは、ある出力が確かに特定のモデルから生成されたことを暗号学的に証明するオープンソースシステム「FlashProve」を開発している。モデルのなりすましや密かな差し替えを防ぐ狙いがある。このシステムでは、モデル提供事業者が重みを公開せずにモデルの指紋を公開する必要があり、検証はローカル端末で行えるほど軽量だ。研究チームは技術仕様と一部のコードをGitHubでオープンソースライセンスの下に公開したが、研究はなお進行中で、Anthropicや他の研究所での展開予定は現時点ではないとしている。