The Decoder· Manuel Uth·· 16 日前
OpenAI、5つの中核的価値観に基づきModel Specの行動規範を再構築
OpenAI sets new behavioral guidelines for AI models that have already proven hard to control
AI による要約
OpenAIは公開しているモデル行動規範「Model Spec」を、人間の意図への忠実さ、危害の低減、誠実さと透明性、人間の主体性の支援、思いやりの5つの中核的価値観に基づいて再構築した。新版では、GPTモデルが記憶や過去の会話からユーザーの意図を推測することを求める一方、ユーザーが実際に述べたこととモデルが推測したことを区別し、仮定を開示してユーザーが訂正できるようにしなければならないとしている。自律的にタスクを実行するエージェントについては、訂正可能性をより重視し、監視や訂正、停止を妨げてはならず、自己保存などの自己目的を追求してはならないと明確にした。
入選の記録
基準 76メディアと個人1 回目 582 回目 58
入選せず二回の合計 116 < 基準の 2 倍 152
- 情報源の区分
- メディアと個人、この区分の基準は 76 点
- 予備審査
- 通過:OpenAI发布AI模型行为规范
- 同じ出来事
採点はモデルが同じ基準で独立に二回行い、満点は 100。二回の合計が基準の 2 倍に届いたものだけが入選します。基準は情報源の区分ごとに決めています。
情報源:The Decoder · the-decoder.com