FTC、OpenAI や Anthropic など AI 研究所への消費者保護調査を開始
米連邦取引委員会は、消費者保護上の違反の可能性について OpenAI、Anthropic など主要 AI 研究所を調査している。FTC 委員長 Andrew Ferguson は、法的拘束力のある「民事調査要求」で資料提出を強制し、経営陣に質問する方針で、数週間以内に発出される見込みだ。調査は Hugging Face のハッキング事件前に始まっており、AI 安全機関 METR も対象に含まれる。
#xAI
#xAI
今日 2 件10月1日
AI企業幹部がトランプ氏の新安全計画に反応 6社が自主規制の約束に署名
GoogleのSundar Pichai、AnthropicのDario Amodei、MetaのMark Zuckerberg、OpenAIのGreg Brockman。
9月30日
トランプ氏のAI安全協定の全文を公開 テクノロジー企業幹部が自主規制を約束
トランプ氏が昨日発表した「道義的な拘束力を持つ」AI安全協定の全文が公開された。正式名称は「Joint Commitment to Frontier Responsibility」で、David Sacksがオンラインで共有した。署名者にはGoogleのSundar Pichaiらが含まれる。
トランプ氏とテック CEO、道徳的拘束力のみの AI 行動規範に署名
トランプ氏は、Meta CEO の Mark Zuckerberg、OpenAI の Greg Brockman、Nvidia の Jensen Huang、Elon Musk らテック幹部とホワイトハウスで AI 行動規範に署名した。
Sam Altman、モデルの安全性を十分に確保するまでOpenAIは上場しないと発言
OpenAIのCEO Sam AltmanはDevDay基調講演後の記者との質疑で、モデルの安全性について確実な約束ができるまで上場せず、明確な日程もないと述べた。待ちすぎることも世界にとって良くないとし、上場すると安全を理由にウォール街の支持者を失望させることへの圧力が生じると懸念した。「pacing the frontier」は単純な減速ではなく、能力より安全とアラインメントを優先することだと説明した。以前にも、今年の上場はおそらくないと述べていた。
xAIがdot.comを取得しOpenAIの「Dots」発表をからかったとの憶測
OpenAIが常駐AIエージェントDotsを発表した後、dot.comドメインがElon Musk傘下のxAI所有で、現在Grokチャットアプリのダウンロードページへ転送されることが判明した。Whois記録によると、ドメインは7月に移管されたばかりで、xAIはbot.comやvot.comなど似た綴りのドメインを保有していない。Xの@birdaboが最初に発見し、ユーザーはMuskによるOpenAIの新製品へのいたずらではないかと推測している。
9月16日
Good Start Labs、ゲームでAIを学習し実業務へ移す方法
Good Start Labsは鉄道ボードゲーム『1830』を学習環境に変え、30Bモデルを実験した。単一回答と複数ターンの端末エージェントの両方でゲーム性能は向上したが、Finance-Agentベンチマークが改善したのは端末エージェントだけだった。
9月15日
第三者AI評価基準AEF-1、xAI・OpenAI・Anthropicが共同署名
AI Evaluator Forumは独立した第三者AI評価の基準提案AEF-1を公開した。アクセス、利益相反、資金関係、忌避、透明性を扱い、xAI、OpenAI、Anthropicが署名した。