Google、ベクトル圧縮 TurboQuant を公開、KV キャッシュを3 bit に圧縮
Google Research は TurboQuant を公開した。訓練や微調整なしで、モデル精度を損なわず KV キャッシュを3 bitに量子化できる。QJL と PolarQuant の二手法も提案した。
モデルの推論能力の進展:思考の連鎖、推論モデル、数学と論理のベンチマークでの突破と論争。
Google Research は TurboQuant を公開した。訓練や微調整なしで、モデル精度を損なわず KV キャッシュを3 bitに量子化できる。QJL と PolarQuant の二手法も提案した。
Mistral AIはMistral Smallシリーズの次の主要版Mistral Small 4を公開した。Magistralの推論、Pixtralのマルチモーダル、Devstralのエージェント型コーディングを初めて単一モデルに統合し、Apache 2.0を採用する。
Mistral AIはLean 4向け初のオープンソースコーディングエージェントLeanstralを公開した。6Bの有効パラメーターを持つ疎な構造を採用し、重みはApache 2.0で公開した。Mistral vibeと無料APIエンドポイントlabs-leanstral-2603に接続されている。
MistralはLe Chatに、プレビューのDeep Research、Voxtralによる音声モード、Magistralによる多言語推論、会話を整理するProjects、Black Forest Labsと協力した画像編集などを追加した。
Mistral AI は初の推論モデル Magistral を公開した。24B パラメーターの公開版 Magistral Small と企業向け Magistral Medium がある。