モデルを動かすための実践：推論の最適化、メモリとコスト、サービング構成、インフラの選び方。
llama.cpp と ggml が v1.0.0 をリリースし、今後パブリック C API の破壊的変更はメジャーバージョンの引き上げで示すと明言した。プロジェクト側によると、llama.cpp は現在 150 以上のモデルアーキテクチャと主要な投機的デコーディング手法をすべてサポートし、Docker、Homebrew、conda-forge、MacPorts、Winget、XCFramework などの経路で配布されている。
AWS は次世代の Amazon Bedrock AgentCore runtime を発表した。各セッションは引き続き独立した Firecracker MicroVM 上で動作し、セッション起動は最大15倍高速、計算資源の規模は4倍、実行効率は最大68%向上する。
AWSはオープンソースフレームワークUAEFを公開した。アダプターでLangGraph、LangChain、Strands Agents、Amazon Bedrock AgentCore、Langfuseの実行トレースをAgentTraceに統一し、7次元36項目の組み込み指標で採点する。
Anthropicは投資家向け資料で、自社のフロンティアモデルMythosがほぼ人手を介さずに3日間でClaudeをAMDのMI355X GPU上で動作するよう移植し、カーネルのほぼ100%を自ら書き上げたと述べた。従来のエンジニアリング手法では6～12カ月かかるという。
NVIDIAはKubeCon + CloudNativeConで、自律エージェントのセキュリティ確保とガバナンスのためのオープンソースランタイムNVIDIA OpenShellをCNCFに寄贈した。
MistralはMistral Large 4（コード名Le Chonk）を発表した。コーディング、防御的サイバーセキュリティ、複雑な文書推論を主眼とし、企業向けプラットフォームMistral Studioも拡張。マネージドエージェント、アプリ、ワークフロー機能に加え、エンタープライズコンテキスト、エージェントの可観測性、評価機能を新たに備える。
AWSチームは、オープンソースのマルチエージェントデータ分析ソリューションDeep Insightを参照実装として、本番環境AIエージェントのコンテキストエンジニアリングを4層に分解した。マルチエージェント構成でコンテキストを分離し、プロンプトで出力を制限し、重い内容をファイルシステムに外部化し、独立したエージェントとフォールバック機構で検証する。
NVIDIAはAIOpsプラットフォーム「Minerva」を発表した。インフラとAIワークロードのテレメトリデータを集約し、専用AIモデルでデータを実行可能な洞察に変換する。GPU、SuperNIC、スイッチ、ストレージ、スケジューラ、ジョブをまたぐ動的ナレッジグラフを構築し、毎時数十億のデータポイントを分析。大量のアラートを根本原因付きの単一イベントに集約できる。
NVIDIAはCosmosプラットフォームを拡張し、学習ツール、シミュレーション用チェックポイント、Cosmos Data Factoryのブループリントを追加した。実世界を理解・シミュレーションする世界モデルの構築を支援する。
Google ResearchはJAMA Network Openに研究を発表し、盲検スキャン超音波に基づく在胎週数推定AIモデルが、異なる臨床環境やハードウェアでどこまで汎用化できるかを評価した。
Dharma-AIはHugging Faceのブログで、近く公開するVocabX論文を紹介した。語彙を頻度ではなくトークンあたりのコストに基づいて再構築する手法により、Qwen3-4Bベースのポルトガル語作文採点器で実測の推論コストを77.0%削減し、平均応答を350トークンから101トークンに、benchスコアを0.703から0.810に改善した。
OpenAIとGoogle Cloudが提携し、OpenAIのフロンティアモデルとCodexのワークフローをGeminiのModel Gardenに接続し、Google Cloud Marketplaceを通じて提供する。具体的なモデルのバージョン、提供開始時期、価格は原文では明らかにされていない。
NVIDIA CEOの黄仁勋氏はGTC Berlin 2026の基調講演で複数の発表を行った。パートナーがモジュール式コンテナ内に構築するVera Rubin AIファクトリーのリファレンス設計「DSX POD」を含み、現場での導入期間を6カ月から14日に短縮できる。
Google CloudとNVIDIAは、Vera RubinベースのA5Xインスタンスの一般提供開始を発表した。提供は来月からで、欧州への拡大も計画している。A5XはNVIDIA Vera Rubin NVL72、ConnectX-9 SuperNICs、Google Cloud Virgo Network、第4世代液冷技術を統合し、大規模なエージェント推論や強化学習のワークロードに対応する。
DeepSeekは、V4.1 Flashを支える本番推論フレームワーク「DeepInfer」をオープンソース化した。vLLMをベースにカスタマイズし、Apache 2.0ライセンスを採用。分散推論、投機的デコーディング、SWA Bounded Replay、構造化出力に対応し、NVIDIAとHuawei Ascendの両プラットフォームをカバーする。
Google は火曜日、PyTorch の TPU 版である TorchTPU をオープンソース化したと発表した。開発者は設定を変更するだけでコードを書き換えることなく、既存の PyTorch アプリを Google の TPU および Google Cloud に移行できる。
Hugging Faceは、ネイティブなPyTorchバックエンドであるTorchTPUへの対応を発表した。Transformers、Diffusers、KernelsがTPU上で直接動作するようになり、モデルの読み込みはdevice_map="tpu"またはpipe.to("tpu")を渡すだけで済み、torch_xlaやOptimum TPUは不要になった。
Hugging Faceは、AWS Trainium上でPyTorchを動かすためのネイティブバックエンドTorchNeuronを発表した。Transformers、Diffusers、Kernelsがネイティブにサポートし、10月20日から公開ベータとして提供を開始する。pip install torch-neuronxでインストールできる。
Reflection AIは、エージェント型コーディングと長期タスク向けのオープンウェイトモデルBeamを公開した。コードの保守、ツールの呼び出し、複数ステップのワークフロー実行が可能。
米国の新興ラボReflectionがHugging Faceで初のオープンモデルBeamを公開した。MoEアーキテクチャを採用し、総パラメータ501B、トークンあたり23Bを活性化、1Mトークンのコンテキストに対応。Apache 2.0ライセンスで公開され、コーディングとエージェント用途を想定している。