Google DeepMind、分散訓練構造 Decoupled DiLoCo を提案
Google DeepMind は Decoupled DiLoCo の論文を公開した。大規模訓練を分離した計算の島々に分け、非同期データストリームで通信し、局所的なハードウェア障害を隔離する。
読む価値のある AI 論文と研究成果:アーキテクチャの工夫、学習手法、能力の測定、理論の進展を厳選して解説。
Google DeepMind は Decoupled DiLoCo の論文を公開した。大規模訓練を分離した計算の島々に分け、非同期データストリームで通信し、局所的なハードウェア障害を隔離する。
Google ResearchはICLR論文ReasoningBankを公開した。成功と失敗の経験から高次の推論パターンを抽出するエージェントメモリーの枠組みで、オープンソース化済みだ。
Google Quantum AI は白書で、将来の量子コンピューターが暗号資産を守る楕円曲線暗号を破るために必要な量子ビットとゲートの数は、従来の見積もりより少ないとした。
Google Research は TurboQuant を公開した。訓練や微調整なしで、モデル精度を損なわず KV キャッシュを3 bitに量子化できる。QJL と PolarQuant の二手法も提案した。
Google Researchと複数のNHS機関によるAIMS研究は、Nature Cancerに2件の姉妹研究を発表し、NHS乳がん検診の手順におけるAI検出システムの性能を評価した。
Google ResearchはGeminiで世界のニュースから過去の災害の構造化データを抽出するGroundsourceを公開した。最初のオープンデータは都市の鉄砲水260万件を収め、150か国以上、2000年から現在までを対象とする。
Google ResearchとBeth Israel Deaconess Medical Centerは、単一施設で前向きの実現可能性研究を実施した。外来のプライマリケア受診前にAMIEが患者とテキストで問診し、医師が動画でリアルタイムに監督した。