逆ゲーム理論でAIエージェントを制御する方法

「逆ゲーム理論」（メカニズムデザイン）と呼ばれる新たなアプローチは、AIモデルがルールを守ることが最も合理的な選択となるようインセンティブを設計しようとするもので、モデルの内部を覗いたり価値観を訓練したりする手法には頼らない。MITの経済学者Stephen Morris氏らのプレプリント論文は、モデル同士に答えを予測させたり、互いに対抗させたり、傾向の異なるモデルを組み合わせたりすることで、テストでの手抜きを防ぐことを提案する。プリンストン大学のElad Hazan教授は、モデルに「解答者」と「監査者」の役割を交互に演じさせ、不正をした者も職務を怠った監査者も罰する仕組みを提案している。