Common Sense Media、ChatGPTの10代向け版を「容認できないリスク」と評価
Common Sense Mediaの青年AI安全研究所は、4000件以上のテストプロンプトを実施した結果、10代向けのChatGPTを未成年にとって容認できないリスクと評価し、独立したテストで安全性が確認されるまで10代の利用を禁止するよう求めた。
AI に関する政策、法規制、政府による監督の動き:立法の進展、輸出管理、世界のガバナンスの枠組みを追う。
Common Sense Mediaの青年AI安全研究所は、4000件以上のテストプロンプトを実施した結果、10代向けのChatGPTを未成年にとって容認できないリスクと評価し、独立したテストで安全性が確認されるまで10代の利用を禁止するよう求めた。
米連邦取引委員会は、消費者保護上の違反の可能性について OpenAI、Anthropic など主要 AI 研究所を調査している。FTC 委員長 Andrew Ferguson は、法的拘束力のある「民事調査要求」で資料提出を強制し、経営陣に質問する方針で、数週間以内に発出される見込みだ。調査は Hugging Face のハッキング事件前に始まっており、AI 安全機関 METR も対象に含まれる。
米DC巡回控訴裁判所は2対1で、AnthropicがClaudeの一部機能の軍への提供を拒んだことを理由に、悪意がなくても国防総省が同社をブラックリストに載せる権限があると判断した。新たな強力な技術の軍事利用の難題に関わる事件だとし、国防長官はサプライチェーン安全法と憲法上の権限を逸脱していないとして、再審査請求を退けた。同裁判所は4月にもAnthropicの緊急執行停止申立てを退けていた。