DeepSeek、推論フレームワーク「DeepInfer」をオープンソース化 単一クラスタで1日155兆トークン処理
DeepSeekは、V4.1 Flashを支える本番推論フレームワーク「DeepInfer」をオープンソース化した。vLLMをベースにカスタマイズし、Apache 2.0ライセンスを採用。分散推論、投機的デコーディング、SWA Bounded Replay、構造化出力に対応し、NVIDIAとHuawei Ascendの両プラットフォームをカバーする。
AI 製品とアプリの新機能、刷新、事業化の動き。どの製品が強くなり、高くなり、使えるようになったか。
DeepSeekは、V4.1 Flashを支える本番推論フレームワーク「DeepInfer」をオープンソース化した。vLLMをベースにカスタマイズし、Apache 2.0ライセンスを採用。分散推論、投機的デコーディング、SWA Bounded Replay、構造化出力に対応し、NVIDIAとHuawei Ascendの両プラットフォームをカバーする。
Google は火曜日、PyTorch の TPU 版である TorchTPU をオープンソース化したと発表した。開発者は設定を変更するだけでコードを書き換えることなく、既存の PyTorch アプリを Google の TPU および Google Cloud に移行できる。
Hugging Faceは、ネイティブなPyTorchバックエンドであるTorchTPUへの対応を発表した。Transformers、Diffusers、KernelsがTPU上で直接動作するようになり、モデルの読み込みはdevice_map="tpu"またはpipe.to("tpu")を渡すだけで済み、torch_xlaやOptimum TPUは不要になった。
Hugging Faceは、AWS Trainium上でPyTorchを動かすためのネイティブバックエンドTorchNeuronを発表した。Transformers、Diffusers、Kernelsがネイティブにサポートし、10月20日から公開ベータとして提供を開始する。pip install torch-neuronxでインストールできる。
ChatGPTのChrome拡張機能が、ブラウザで開いているタブにアクセスし、操作できるようになった。ユーザーは@chromeでタブを指定でき、Chatモードでは複数のタブから同時にデータを読み取れる。WorkモードではComputer Useを通じてタブを制御し、メッセージ送信、フォーム入力、ファイルのダウンロード、タブグループの整理などを行う。
Google DeepMindは、エージェント開発プラットフォームGoogle Antigravityを用いて抗菌ペプチドの探索を加速する取り組みを紹介した。複数のデータベースに分散していた検索を単一のセッションに集約する。アミノ酸配列から生物学的機能を予測するモデルProtNLMを組み合わせ、UniProtの数百万件の未解析タンパク質を走査し、呼吸器感染症に関連する病原体に対して活性が予測される新規抗菌ペプチド候補を1件見出した。現在、ウェットラボでの検証が進められている。
Meta のコーディング最適化オープンウェイトモデル Muse Spark Open が Amazon SageMaker JumpStart で利用可能になった。100 万トークンのコンテキストウィンドウに対応し、MoE アーキテクチャを採用。総パラメータ数 816B、トークンあたり 42B を活性化し、テキスト、画像、ドキュメント、音声、音声付き動画を入力として受け取り、テキストを出力する。
NVIDIAは、クリエイター、ゲーマー、AIエージェント向けのWindows PC「RTX Spark」を発表し、世界各地でローンチイベントを開催した。公式はTom's Hardware、TrustedReviews、Tom's Guideなどのメディアレビューを引用し、ローカルAI、ゲーム、クリエイティブワークフローで良好な性能を発揮するとしている。Artificial Analysisも独立テストの初期結果を公開した。
Googleは、複雑な文書に対して厳格なフィードバックと技術的検証を提供するエージェント型システム「Deep Review」を一般公開した。当初は計算機科学の論文分析向けに設計されたが、現在は法律や金融など幅広い分野の文書査読に拡張されている。各ユーザーは週2回まで無料で文書査読を利用でき、Gemini APIキーを接続すれば利用量を増やせるほか、Deep Review APIを通じたプログラム的な統合も可能。初期段階ではPDFとプレーンテキストの入力をサポートする。
Google DeepMindはシンガポール政府技術庁(GovTech)と協力し、軽量なGemmaモデルを微調整して、一般的なスマートフォンで動作する端末上の詐欺検出モデルを開発した。このモデルは会話を端末上でローカルに分析し、操作的な話術を検出するとリアルタイムで警告を表示する。消費電力を抑えるため、軽量分類器による一次選別とGemmaによる文脈評価の2段階パイプラインを採用している。微調整はGovTechが管理するGCP環境で完了し、訓練データからは私的または識別可能な個人情報を排除し、匿名化されたデータセットのみを使用した。
NVIDIAはRTX SparkノートPCを10月16日に発売すると発表した。最大128GBの統合メモリと1ペタフロップスのAI演算性能を備え、ローカルエージェント向けのソフトウェア更新も同時に投入する。
NVIDIAはOCP Global Summitで、オープンなMGXアーキテクチャを通じてVera Rubinのラックとコンピュートトレイの設計をOCPに提供し、システムベンダーが次世代AIファクトリー基盤を構築するための共通の土台を用意した。
GoogleはGoogle Cloudのイベントで、Geminiに統合エージェントを導入すると発表した。指示だけでなく目標を受け取り、自らタスクを計画し、カスタムスキルやツールを呼び出して企業の社内システムに接続できる。初期は企業顧客向けで、その後消費者向けに展開する。
NVIDIAとMicrosoftはサンフランシスコのWindows AI・Surfaceイベントで、Windows PC上のAIエージェント向けにソフトとハードを共同設計すると発表した。MicrosoftはOSレベルの基盤「Microsoft Execution Containers(MXC)」が正式に利用可能になり、エージェントがシステムの制御下で安全かつ持続的にバックグラウンド動作できるようになると発表した。
OpenAI は ChatGPT に Intelligent UI 機能を導入し、回答にグラフやフォーム、クリック可能なボタンなどのインタラクティブな視覚要素を組み合わせられるようにした。この更新は GPT-6 とともに全ユーザーに配信される。
Microsoft Researchは、約3500行のコードで構成される軽量なエージェント強化学習フレームワーク「Agent Lightning v1.0」をオープンソース化した。Harnessed Agentic RLパラダイムを中心に再構築され、デプロイ時に使用するagent harnessをそのまま訓練に参加させることができ、訓練フレームワーク内でエージェントを再実装する必要がない。
OpenAIはIntelligent UIと呼ぶ新しいインターフェースを発表した。新しいGPT-6モデルとともに水曜日から配信が始まり、会話の中に操作可能なボタン、用途別の計算機、インタラクティブなグラフ、編集可能な図形などを多数組み込む。
Z.ai の GLM 5.3 が Amazon Bedrock で提供開始された。753B パラメータの MoE モデルで、コーディングと長時間のエージェントタスク向け。フルマネージド API を通じてクロスリージョン推論、プロンプトキャッシュ、サービスティアを提供し、現在は条件を満たす企業顧客向けに公開されている。
NVIDIA は今月、Acer、ASUS、Dell、Gigabyte、HP、MSI を通じて 64GB 統合メモリ版 DGX Spark を発売する。10 月 23 日販売開始、希望小売価格は 4,999 ドルから。GB10 Grace Blackwell スーパーチップ、DGX OS、NVIDIA AI ソフトウェアスタック一式を維持し、最大 1000 億パラメータのモデルをデバイス上でローカル実行できる。
GPT-6 Astra Ultrafast は NVIDIA Blackwell GPU 上で動作し、OpenAI API と条件を満たす ChatGPT Work および Codex ユーザーに提供されている。