逆向博弈论如何约束 AI 智能体

一种名为“逆向博弈论”（机制设计）的新思路试图通过设计激励规则，让 AI 模型遵守规则成为最理性的选择，而非依赖窥探模型内部或训练价值观。MIT 经济学家 Stephen Morris 等人的预印本论文提出让模型互相预测答案、互相对抗或配对偏向相反的模型，以阻止模型在测试中“放水”。普林斯顿教授 Elad Hazan 则提出让模型轮流扮演“解题者”和“审计者”，作弊者与失职审计者均受罚。