本文へ移動
原文
The Decoder· Manuel Uth·· 16 日前

OpenAI、5つの中核的価値観に基づきModel Specの行動規範を再構築

OpenAI sets new behavioral guidelines for AI models that have already proven hard to control

AI による要約

OpenAIは公開しているモデル行動規範「Model Spec」を、人間の意図への忠実さ、危害の低減、誠実さと透明性、人間の主体性の支援、思いやりの5つの中核的価値観に基づいて再構築した。新版では、GPTモデルが記憶や過去の会話からユーザーの意図を推測することを求める一方、ユーザーが実際に述べたこととモデルが推測したことを区別し、仮定を開示してユーザーが訂正できるようにしなければならないとしている。自律的にタスクを実行するエージェントについては、訂正可能性をより重視し、監視や訂正、停止を妨げてはならず、自己保存などの自己目的を追求してはならないと明確にした。

入選の記録

入選せず二回の合計 116 < 基準の 2 倍 152

情報源の区分
メディアと個人、この区分の基準は 76 点
予備審査
通過:OpenAI发布AI模型行为规范
同じ出来事

採点はモデルが同じ基準で独立に二回行い、満点は 100。二回の合計が基準の 2 倍に届いたものだけが入選します。基準は情報源の区分ごとに決めています。

情報源:The Decoder · the-decoder.com