Transformers、llama.cppのGGUF量子化モデル実行に対応
Hugging FaceはtransformersにGGUF対応を追加した。Hubから量子化チェックポイントを選び、from_pretrainedにgguf_fileを渡すだけで、追加設定なしにローカル生成を実行できる。
オンデバイス AI
すべてのトピックスマートフォン、PC、エッジ機器で動く AI：小型モデル、ローカル推論、端末向けチップの進展。
最新の精選
1–9 件目 · 全 9 件9月22日
8月17日
Google Research、スマートフォン写真で体組成を推定しインスリン抵抗性を予測するPhotoScanを提案
Google Researchは、普通の2Dスマートフォン写真から体脂肪率、A/G比、V/S比を推定し、インスリン抵抗性を予測する深層学習フレームワークPhotoScanを提案した。
8月12日
Google DeepMind、手話からテキストの SL2T、Pixel 11 の Gboard と Live Transcribe に初導入
Google DeepMind は多言語手話からテキストへのモデル SL2T を公開し、初めて消費者製品に導入した。Pixel 11 の Gboard と Live Transcribe で米国手話（ASL）を英語テキストに変換し、今後さらに多くの端末と言語へ拡大する。
7月29日
CUDAからMLXへ：K-Searchが数十年のカーネル知識をApple Siliconに移す方法
Berkeley AI ResearchとIBM Researchは進化的カーネル探索のK-SearchをMLXに拡張した。構造化したCUDA-to-MLX変換層で、既存のCUDAカーネル知識をApple Siliconに移す。
6月27日
Google、凍結モデルへの複数トークン予測で Pixel の Gemini Nano を高速化
Google Research は、凍結した Gemini Nano v3 に複数トークン予測（MTP）ヘッドを接続する新構造を公開した。本体のウェイトを変えずに端末上の推論を加速し、Pixel 9 と10シリーズで提供済みだ。
6月9日
Google DeepMind、統一エンコーダーレス多モーダルモデルGemma 4 12Bを公開
Google DeepMindはノートパソコンでのローカル実行向けマルチモーダルモデルGemma 4 12Bを公開した。エッジ向けE4Bと26B MoEの中間に位置し、エンコーダーを使わない統一構造で、視覚・音声入力をLLMの本体へ直接渡す。
6月5日
Google、スマートフォンのカメラで心臓の健康を受動的に測る研究
Google ResearchはNatureにPHRMシステムの研究を発表した。顔認証によるロック解除後の数秒間に前面カメラで動画を撮影し、深層学習で心拍数と安静時心拍数をバックグラウンド推定する。
4月3日
Google DeepMind、オープンソースモデル群Gemma 4を公開
Google DeepMindはGemma 4モデル群を公開した。E2B、E4B、26B MoE、31B Denseの4サイズを用意し、Apache 2.0ライセンスを採用する。
12月3日
Mistral、6,750億パラメーターの Large 3 を含む Mistral 3 シリーズを公開
Mistral は Mistral 3 シリーズを公開した。14B、8B、3B の小型 dense モデルと、過去最強の Mistral Large 3 を含む。後者は稼働41B・総675Bの疎な MoE で、すべて Apache 2.0 で公開する。