Import AI 459:AI 規制の難しさ、タンパク質折り畳みのスケーリング則、絶滅リスクの価格付け
Import AI 459 は三研究を扱う。英国 AI Safety Institute の論文は、AI で AI 訓練を監督する自動アライメント研究が万能でなく、実装は予想以上に難しいとする。他にタンパク質折り畳みモデルのスケーリング則と AI システムの絶滅リスクの価格付けを論じる。
Import AI 459 は三研究を扱う。英国 AI Safety Institute の論文は、AI で AI 訓練を監督する自動アライメント研究が万能でなく、実装は予想以上に難しいとする。他にタンパク質折り畳みモデルのスケーリング則と AI システムの絶滅リスクの価格付けを論じる。
Import AI 458はOxford HAI Labの2026年講演に基づく長文と「良い特異点」の短編を収録した。40以上のベンチマークのEpoch Capabilities Index(ECI)を手掛かりに、進歩するAIが「未来を探るか現在を避けるか」の選択を迫ると論じる。
Institute for Law & AI は「radical optionality」の規制を提案した。政府は現在の過剰規制を避けつつ、情報収集、内部告発者保護、評価、モデルウェイト保護の能力を築き、強い AI の影響に素早く対応すべきとする。Meta と KAIST の論文は、計算、メモリー、I/O を学習した実行時状態に統合する Neural Computer を提案した。
Berkeley AI Researchは並列推論の進展を整理し、独立した小課題をいつ分解・並列化するか、同時スレッド数、調整方法をモデル自身が決める適応的並列推論を分析した。Self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink、Hogwild! Inferenceなどは外部で並列構造を事前設定し、適応的な行動を教えていない。
Jack ClarkはImport AI 455で、人の参加なしに後継モデルを自律学習するAI研究開発が2028年末までに現れる確率を約60%、2027年を約30%と見積もった。