EXLは、企業AIの競争優位性がモデル能力からモデルを囲むサービングハーネス（アーキテクチャ、メモリ管理、スケジューリング、推論最適化のエンジニアリングシステム）へ移りつつあると提言した。まず業務負荷から制約を定めてからアーキテクチャを選ぶべきだとし、KVキャッシュが並行数とコンテキストの増加に伴いGPUメモリ不足を招く例を挙げ、測定してから最適化することを強調。フレームワークは新しいモデルやハードウェアを取り込みやすくし、モデル変更をアーキテクチャ再構築ではなく評価と設定の判断にするべきだとしている。
RescaleはAWSのAI-DLCフレームワークに基づいてAIトリアージエージェントを構築し、課題定義からステージング環境へのデプロイまでをわずか5日で完了、数週間で本番環境に投入した。
自前でホストする TTS エンドポイントの自動スケーリング目標値を推測に頼る問題に対し、AWS は Amazon SageMaker AI のリアルタイムエンドポイントに 8200 万パラメータの Kokoro-82M をデプロイし、実測した Q_max（1 インスタンスが SLO 内で処理できる最大同時実行数）と T_total（スケールアウト 1 回のエンドツーエンド所要時間）から、スケールアウトしきい値、スケールインしきい値、2 つのクールダウン時間を算出した。
音声合成モデルKokoro-82MをAmazon SageMaker AIのリアルタイムエンドポイントでホストし、AIエージェントが生成した文を1文ごとに即座に合成に回すことで、応答全体の生成を待たずに音声の再生を始められるようにする。
IskayPetはAmazon Bedrock Managed Knowledge Basesを基に企業知識アシスタントを構築し、従業員が小売運営、獣医療、人事オンボーディング、購買などの文書を自然言語で照会できるようにした。4言語・3カ国をカバーし、RAGインフラを自前で管理する必要はない。
AWSソリューションアーキテクチャチームがマルチエージェントシステムDeep Insightをオープンソース化した。Coordinator、Planner、Supervisor、Coder、Validator、Reporter、Trackerなどのエージェントが、CSVデータ分析から引用付きDOCXレポートの自動生成までを担う。
AWS は、AWS PrivateLink の VPC エンドポイントと Quick の VPC 接続を通じて、Amazon Quick がパブリックインターネットを経由せずに企業ファイアウォール背後のオンプレミスデータソースへアクセスできるようにする構成を公開した。
単一の trn2.48xlarge（Trainium2 を 16 基、論理 NeuronCore を 64 個搭載）上で、torchtitan は TorchNeuron を通じて Trainium をネイティブな PyTorch デバイスとして登録できる。
Strands Agents で構築した Adaptive Agentic Intelligence Framework（AAIF）は、llama3.2:1b をオーケストレーション層としてリクエストを分類し、定型タスクは Ollama のローカル SLM で処理、複雑な分析は boto3 経由で Amazon Bedrock にルーティングする。
Hugging Face のブログが「Profiling TorchNeuron」シリーズの第1回を公開した。AWS Trainium 上で torch.profiler を NeuronConfig および NeuronProfiler と組み合わせてクリーンな trace を取得し、key_averages() テーブルから Neuron デバイス時間を消費する演算子を特定する方法を解説している。
Dharma-AIはHugging Faceのブログで、近く公開するVocabX論文を紹介した。語彙を頻度ではなくトークンあたりのコストに基づいて再構築する手法により、Qwen3-4Bベースのポルトガル語作文採点器で実測の推論コストを77.0%削減し、平均応答を350トークンから101トークンに、benchスコアを0.703から0.810に改善した。
Simon Willison氏がブラウザ向けRTSゲーム「Battle Drones」を公開した。12回のメジャーバージョン更新を経て、Claude Codeなどのコーディングエージェントによる321件のコミットを重ね、スマートフォンとデスクトップの両方でプレイできる。9種の建造物、7種の地上車両、6種の航空機、3種の歩兵ユニットを収録し、戦場の霧、ランダムマップ生成、AI対AIモードも備える。マルチプレイモードでは、近接する2台の端末が音声メッセージでゲーム状態を同期する。
AWS ブログは、AtScale をセマンティックレイヤーとし、Amazon Bedrock AgentCore 上で Strands エージェントを動かす C360 構成を実演した。AtScale は YAML ベースの Semantic Modeling Language でモデリングし、同一モデルを SQL、XMLA、MCP の 3 プロトコルで同時に公開する。
AWSブログは、Strategy MosaicをセマンティックレイヤーとしてAmazon RedshiftとAmazon Aurora上にCustomer 360モデルを構築し、Amazon Bedrock AgentCore上でホストするStrandsエージェントがMCPエンドポイント経由でそのモデルにアクセスする例を紹介した。
Denodo Platform をセマンティックレイヤーとして、Amazon Bedrock AgentCore でホストするエージェントと組み合わせ、Amazon Aurora、Amazon Redshift、オンプレミス PostgreSQL の 3 つのデータソースをフェデレーテッドクエリして Customer 360 ビューを構築する方法を解説する。
Eonはツールごとの認証情報とローカルMCPプロセスをAmazon Bedrock AgentCoreのMCP Gatewayに置き換え、開発者と自律型SREエージェントが単一の認証ゲートウェイを通じてAWS、GCP、Azureの3クラウド上の調査ツールにアクセスできるようにした。
AWSとKeyfactorが参照アーキテクチャを共同公開。Keyfactor EJBCAのX.509 PKIを用い、MCPベースのAIエージェントに検証可能で失効可能なIDを付与する。
Octave は Amazon Bedrock 上で Cohere Embed v4 を用い、3 層のマルチテナント AI 基盤を構築し、ユースケースごとの展開時間を 50% 短縮した。この基盤は Reliance 品質管理システムに 2 億件規模の文書を組み込み、AgentCore Gateway による実行の分離と Amazon Bedrock Guardrails による入出力の二重フィルタリングで、テナントのデータが越境しないことを確保している。
GPT-OSS-20Bは50例の多言語推論テストで、目標言語で推論したのはわずか22%だった（英語100%、フランス語0%、ドイツ語10%、スペイン語0%、イタリア語0%）。チームはAmazon SageMaker HyperPod上でLoRAを用い、SFTとGRPOを組み合わせて微調整し、英語への偏りを是正した。結論として、SFTが主な役割を担い、GRPOは改善の余地がある場合にさらに最適化するもので、技術の選択は能力の差に合わせる必要がある。
Amazon QuickとAmazon Bedrock AgentCoreを組み合わせることで、サプライチェーン管理者はERP、監視、調達などのシステムをまたいで自然言語で質問し、実行可能な回答を得られる。
10年以上のJava経験を持つJava Champion 3名が、本番環境とオープンソースプロジェクトでGitHub Copilotを活用した実践を共有した。Vlad Mihalcea氏はCopilotにより数週間かかっていた機能開発を2日に短縮し、65本の記事でカスタムスキルを訓練して生成テキストを自身の文体に合わせた。
PyTorch 2.15 は MPS バックエンドに FP8 テンソルと F.scaled_mm を追加し、MoE モデルのデコードを 2.14 比で 5～6.5 倍高速化した。Qwen3.6-35B-A3B は M3 Ultra 上で 9.4 から 61.3 tokens/s に向上している。
GitHub Copilot アプリのセッションは VS Code で直接開くことができ、タスク、計画、会話のコンテキスト、およびセッションに対応する worktree とコード diff が保持される。VS Code では変更を一行ずつ確認し、手動で編集し、統合ターミナルでテストを実行し、さらに Copilot に質問を続けられる。完了後は変更をコミットし、セッションに関連する pull request にプッシュできる。
AWSはvLLMに双方向KV転送を実装し、decodeノードが後続のターンで計算済みのKVをprefillノードに返して再利用できるようにし、会話履歴の再計算を避けた。Amazon EC2 P5enインスタンスとEFAを用いた1P1D構成では、最長プロンプト時にQwen3-32BでTTFTが約1.6倍、zai-org/GLM-5-FP8で約3.3倍低下した。
vLLM は push ベースの NIXL connector を追加し、KV 転送の調整と確立の処理を最初のトークンのクリティカルパスから外した。Amazon EC2 P5en クラスタ上の 1P1D 構成で、Qwen3-32B の TTFT が最大 3 倍、TPOT が最大 30% 向上する。
Deepgram は AWS と協力し、音声認識モデル Nova-3 を Trainium2 に移植した。コールセンター分析や医療文字起こしなどオフラインのバッチ処理が対象。最終構成では Amazon EC2 trn2.3xlarge インスタンス 1 台でモデルを 8 レプリカ動かし、1 ドル当たりの処理音声量は従来の計算基盤より 11%〜70% 多い。
AWS のセールス・マーケティング・グローバルサービス（SMGS）運用チームは、Amazon Bedrock AgentCore Evaluations を基盤に、グローバル現場営業向けマルチエージェントシステムの評価フレームワークを構築した。各リリース前および本番環境で、回答が根拠に基づき正確かどうかを継続的に検証し、失敗の根本原因を追跡する。
sparqliteはRustで書かれたSQLiteのロード可能拡張で、RDFクアッドを通常のSQLiteテーブルに格納し、SQLiteプロセス内でSPARQL 1.1のクエリと更新をネイティブに実行する。
Simon Willison 氏は Claude の iPhone デフォルトアプリのチャットモードを使い、Claude Opus 5.5 Max に「Tree Appreciator」という Three.js ゲームを構築させた。アルゴリズムで生成された2本の木の違いを鑑賞するという内容だ。Claude は3時間7分をかけて、音楽、アニメーション、実績システムを備えた間違い探しゲームを完成させ、その完成度はかなり高い。
AWS は、Amazon Bedrock AgentCore を用いてエージェント型 IDP システムを構築する方法を紹介した。8 つの専用エージェントが認識と学習の 2 つのワークフローを構成し、新しい文書形式を自動で分類、抽出、検証、学習する。システムは 20 分以内にデプロイでき、新しい形式の文書は学習後に抽出指示をそのまま再利用でき、手動でのテンプレート設定は不要だ。
Amazon SageMaker JumpStart は事前学習済みモデルのカタログを提供しており、SageMaker Python SDK でモデルをデプロイし、サンプルプロンプトでレイテンシーと単一リクエストの生成速度をテストし、テスト完了後にエンドポイントを削除できる。2026 年、JumpStart は Model Hub での閲覧と事前設定済みエンドポイントのデプロイオプションを追加し、Hugging Face から SageMaker AI へのワンクリックデプロイにも対応した。
Amazon Bedrock AgentCore 上に構築した AI エージェントシステムが顧客向け PowerPoint プレゼンテーションを自動生成する。社内テストでは完了まで 90 秒未満だった。
Python 3.15内蔵の`profiling.sampling`で未改変のweb-editアプリをプロファイリングしたところ、混在する改行コードの保持が編集負荷の主要なボトルネックであることが判明した。`preserve_endings`は記録された15,296件のCPUスタックの64.8%に出現し、`SequenceMatcher.find_longest_match`はリーフサンプルの38.3%を占めていた。
Amazon Bedrock とマネージドエンタイトルメントを組み合わせると、企業は中央アカウントで AWS Marketplace のプライベート価格オファー（MPPO）を購読し、組織内の複数アカウントにアクセス権を配布できる。
MoE モデルの decode 段階で M 次元が小さすぎるために Hopper GPU の利用率が低い問題に対し、AWS は Swap-AB 最適化を提案し、エキスパート出力次元 N=8192 を第一オペランドに引き上げた。H200 上で大規模 MoE モデルに 2～4% のエンドツーエンドスループット向上をもたらし、この最適化は vLLM 0.24.0 以降にマージ済みである。
AWS はマルチノード展開向けの Ray LLM Deep Learning Containers を公開した。Amazon EKS 上で単一の大規模言語モデルを 2 つの GPU ノードに分割し、prefill/decode 分離方式で 1 つの OpenAI 互換エンドポイントを共有できる。
AWS は llama.cpp 専用の Deep Learning Container（DLC）を公開した。Amazon SageMaker AI 上で量子化モデルを CPU または GPU でホストし、InvokeEndpoint を通じて OpenAI 互換の chat completions を提供できる。
Python 3.15 が正式リリース。PEP 810 の明示的な遅延インポート（lazy import）と内包表記のアンパック構文が新たに加わり、標準ライブラリにはサンプリングプロファイラ Tachyon（profiling.sampling）が追加された。
GitHub Copilot 入門シリーズでは、Copilot をプロジェクトに適応させる4つの方法を紹介。リポジトリ単位のカスタム指示は .github/copilot-instructions.md に記述する。
The Vergeの編集者がM5 Ultra Mac StudioにオープンソースAIエージェント「Hermes Agent」をインストールし、1250億パラメータのQwen 3.8 Flash Nextモデル（約105GB）を選んでローカルAIを実測した。