本文へ移動

#使い方・実践

今日 0 件

10月23日

金曜日
  1. EXL、持続的に進化するAIサービングフレームワークの設計を語る

    EXLは、企業AIの競争優位性がモデル能力からモデルを囲むサービングハーネス(アーキテクチャ、メモリ管理、スケジューリング、推論最適化のエンジニアリングシステム)へ移りつつあると提言した。まず業務負荷から制約を定めてからアーキテクチャを選ぶべきだとし、KVキャッシュが並行数とコンテキストの増加に伴いGPUメモリ不足を招く例を挙げ、測定してから最適化することを強調。フレームワークは新しいモデルやハードウェアを取り込みやすくし、モデル変更をアーキテクチャ再構築ではなく評価と設定の判断にするべきだとしている。

  2. Amazon SageMaker AI 上の TTS 自動スケーリング目標値、推測はもう不要

    自前でホストする TTS エンドポイントの自動スケーリング目標値を推測に頼る問題に対し、AWS は Amazon SageMaker AI のリアルタイムエンドポイントに 8200 万パラメータの Kokoro-82M をデプロイし、実測した Q_max(1 インスタンスが SLO 内で処理できる最大同時実行数)と T_total(スケールアウト 1 回のエンドツーエンド所要時間)から、スケールアウトしきい値、スケールインしきい値、2 つのクールダウン時間を算出した。

  3. IskayPet、Amazon Bedrock Managed Knowledge Basesで企業知識を統合する方法

    IskayPetはAmazon Bedrock Managed Knowledge Basesを基に企業知識アシスタントを構築し、従業員が小売運営、獣医療、人事オンボーディング、購買などの文書を自然言語で照会できるようにした。4言語・3カ国をカバーし、RAGインフラを自前で管理する必要はない。

10月22日

木曜日
  1. マルチエージェントシステムの5つの本番課題とDeep Insightの解決策

    AWSソリューションアーキテクチャチームがマルチエージェントシステムDeep Insightをオープンソース化した。Coordinator、Planner、Supervisor、Coder、Validator、Reporter、Trackerなどのエージェントが、CSVデータ分析から引用付きDOCXレポートの自動生成までを担う。

  2. AWS PrivateLink で Amazon Quick の企業内ネットワークへのプライベートアクセスを実現する方法

    AWS は、AWS PrivateLink の VPC エンドポイントと Quick の VPC 接続を通じて、Amazon Quick がパブリックインターネットを経由せずに企業ファイアウォール背後のオンプレミスデータソースへアクセスできるようにする構成を公開した。

  3. Strands Agents ベースの適応型エージェントフレームワーク AAIF、ローカル SLM でリクエストを振り分け、複雑なタスクは Amazon Bedrock へ

    Strands Agents で構築した Adaptive Agentic Intelligence Framework(AAIF)は、llama3.2:1b をオーケストレーション層としてリクエストを分類し、定型タスクは Ollama のローカル SLM で処理、複雑な分析は boto3 経由で Amazon Bedrock にルーティングする。

  4. TorchNeuron の性能プロファイリング(1):AWS Trainium でのシステムレベル性能分析

    Hugging Face のブログが「Profiling TorchNeuron」シリーズの第1回を公開した。AWS Trainium 上で torch.profiler を NeuronConfig および NeuronProfiler と組み合わせてクリーンな trace を取得し、key_averages() テーブルから Neuron デバイス時間を消費する演算子を特定する方法を解説している。

10月21日

水曜日
  1. Claude Mods:Claude Code のハーネスを内側からひっくり返す

    著者は Claude Mods で Claude Code のインターフェースと挙動をカスタマイズしている。この種の mod は Claude Code 内で動く TypeScript または JavaScript の関数で、プロンプトやツール呼び出し、インターフェース描画のイベントに反応し、既定の挙動を書き換えられる。

  2. Simon Willison氏、Claude CodeでRTSゲーム「Battle Drones」を開発 音声同期のマルチプレイに対応

    Simon Willison氏がブラウザ向けRTSゲーム「Battle Drones」を公開した。12回のメジャーバージョン更新を経て、Claude Codeなどのコーディングエージェントによる321件のコミットを重ね、スマートフォンとデスクトップの両方でプレイできる。9種の建造物、7種の地上車両、6種の航空機、3種の歩兵ユニットを収録し、戦場の霧、ランダムマップ生成、AI対AIモードも備える。マルチプレイモードでは、近接する2台の端末が音声メッセージでゲーム状態を同期する。

  3. AtScale と Amazon Bedrock AgentCore で AWS 上にエージェント AI 向けセマンティックレイヤーを構築

    AWS ブログは、AtScale をセマンティックレイヤーとし、Amazon Bedrock AgentCore 上で Strands エージェントを動かす C360 構成を実演した。AtScale は YAML ベースの Semantic Modeling Language でモデリングし、同一モデルを SQL、XMLA、MCP の 3 プロトコルで同時に公開する。

  4. Strategy MosaicとAmazon Bedrock AgentCoreでAWS上のエージェントAI向けセマンティックレイヤーを構築

    AWSブログは、Strategy MosaicをセマンティックレイヤーとしてAmazon RedshiftとAmazon Aurora上にCustomer 360モデルを構築し、Amazon Bedrock AgentCore上でホストするStrandsエージェントがMCPエンドポイント経由でそのモデルにアクセスする例を紹介した。

  5. Denodo と Amazon Bedrock AgentCore で AWS 上にエージェント AI 向けセマンティックレイヤーを構築

    Denodo Platform をセマンティックレイヤーとして、Amazon Bedrock AgentCore でホストするエージェントと組み合わせ、Amazon Aurora、Amazon Redshift、オンプレミス PostgreSQL の 3 つのデータソースをフェデレーテッドクエリして Customer 360 ビューを構築する方法を解説する。

  6. Eon、Amazon Bedrock AgentCoreのMCP Gatewayでマルチクラウド調査機能を構築した方法

    Eonはツールごとの認証情報とローカルMCPプロセスをAmazon Bedrock AgentCoreのMCP Gatewayに置き換え、開発者と自律型SREエージェントが単一の認証ゲートウェイを通じてAWS、GCP、Azureの3クラウド上の調査ツールにアクセスできるようにした。

  7. Octave、Amazon Bedrock 上で安全なマルチテナント AI 基盤を構築した方法

    Octave は Amazon Bedrock 上で Cohere Embed v4 を用い、3 層のマルチテナント AI 基盤を構築し、ユースケースごとの展開時間を 50% 短縮した。この基盤は Reliance 品質管理システムに 2 億件規模の文書を組み込み、AgentCore Gateway による実行の分離と Amazon Bedrock Guardrails による入出力の二重フィルタリングで、テナントのデータが越境しないことを確保している。

  8. Amazon SageMaker HyperPodでGPT-OSS-20Bを微調整し多言語推論を実現

    GPT-OSS-20Bは50例の多言語推論テストで、目標言語で推論したのはわずか22%だった(英語100%、フランス語0%、ドイツ語10%、スペイン語0%、イタリア語0%)。チームはAmazon SageMaker HyperPod上でLoRAを用い、SFTとGRPOを組み合わせて微調整し、英語への偏りを是正した。結論として、SFTが主な役割を担い、GRPOは改善の余地がある場合にさらに最適化するもので、技術の選択は能力の差に合わせる必要がある。

  9. Java Champion 3名がGitHub Copilotで生産性を高める方法

    10年以上のJava経験を持つJava Champion 3名が、本番環境とオープンソースプロジェクトでGitHub Copilotを活用した実践を共有した。Vlad Mihalcea氏はCopilotにより数週間かかっていた機能開発を2日に短縮し、65本の記事でカスタムスキルを訓練して生成テキストを自身の文体に合わせた。

10月20日

火曜日
  1. TripleTen調査:業界別のAI導入率の差が他業界への道筋を示す

    TripleTenの調査によると、金融業では48%の従業員がAIチャットボットの利用を求められ、32%が業務の一部自動化を求められており、これはテック業界に次ぐ水準だ。医療と教育はそれぞれ18%と25%にとどまる。79%の従業員が少なくとも1つの新スキルの学習を求められている一方、AI出力の正誤を判断することが必須能力だと考える管理者は30%のみ。テック従事者の年間自己負担の研修費は1758ドル、医療と教育はそれぞれ990ドルと883ドルで、半数近くが支出していない。

  2. VS Code で GitHub Copilot アプリのセッションを続ける方法

    GitHub Copilot アプリのセッションは VS Code で直接開くことができ、タスク、計画、会話のコンテキスト、およびセッションに対応する worktree とコード diff が保持される。VS Code では変更を一行ずつ確認し、手動で編集し、統合ターミナルでテストを実行し、さらに Copilot に質問を続けられる。完了後は変更をコミットし、セッションに関連する pull request にプッシュできる。

  3. AWS、vLLMで双方向KV転送によりマルチターンのエージェント負荷のTTFTを改善

    AWSはvLLMに双方向KV転送を実装し、decodeノードが後続のターンで計算済みのKVをprefillノードに返して再利用できるようにし、会話履歴の再計算を避けた。Amazon EC2 P5enインスタンスとEFAを用いた1P1D構成では、最長プロンプト時にQwen3-32BでTTFTが約1.6倍、zai-org/GLM-5-FP8で約3.3倍低下した。

  4. Deepgram、AWS Trainium で大規模音声 AI をどう最適化したか

    Deepgram は AWS と協力し、音声認識モデル Nova-3 を Trainium2 に移植した。コールセンター分析や医療文字起こしなどオフラインのバッチ処理が対象。最終構成では Amazon EC2 trn2.3xlarge インスタンス 1 台でモデルを 8 レプリカ動かし、1 ドル当たりの処理音声量は従来の計算基盤より 11%〜70% 多い。

10月17日

土曜日
  1. Amazon Bedrock AgentCore で AI エージェントの本番向け評価フレームワークを構築

    AWS のセールス・マーケティング・グローバルサービス(SMGS)運用チームは、Amazon Bedrock AgentCore Evaluations を基盤に、グローバル現場営業向けマルチエージェントシステムの評価フレームワークを構築した。各リリース前および本番環境で、回答が根拠に基づき正確かどうかを継続的に検証し、失敗の根本原因を追跡する。

10月16日

金曜日

10月15日

木曜日
  1. Claude Opus 5.5 Max が3時間で Three.js ゲーム「Tree Appreciator」を制作

    Simon Willison 氏は Claude の iPhone デフォルトアプリのチャットモードを使い、Claude Opus 5.5 Max に「Tree Appreciator」という Three.js ゲームを構築させた。アルゴリズムで生成された2本の木の違いを鑑賞するという内容だ。Claude は3時間7分をかけて、音楽、アニメーション、実績システムを備えた間違い探しゲームを完成させ、その完成度はかなり高い。

  2. Amazon Bedrock AgentCore で自己改善型の文書処理システムを構築

    AWS は、Amazon Bedrock AgentCore を用いてエージェント型 IDP システムを構築する方法を紹介した。8 つの専用エージェントが認識と学習の 2 つのワークフローを構成し、新しい文書形式を自動で分類、抽出、検証、学習する。システムは 20 分以内にデプロイでき、新しい形式の文書は学習後に抽出指示をそのまま再利用でき、手動でのテンプレート設定は不要だ。

10月14日

水曜日
  1. Amazon SageMaker JumpStart でモデルをデプロイし評価する方法

    Amazon SageMaker JumpStart は事前学習済みモデルのカタログを提供しており、SageMaker Python SDK でモデルをデプロイし、サンプルプロンプトでレイテンシーと単一リクエストの生成速度をテストし、テスト完了後にエンドポイントを削除できる。2026 年、JumpStart は Model Hub での閲覧と事前設定済みエンドポイントのデプロイオプションを追加し、Hugging Face から SageMaker AI へのワンクリックデプロイにも対応した。

  2. Python 3.15でweb-editをプロファイリング:フレイムグラフとソースヒートマップ

    Python 3.15内蔵の`profiling.sampling`で未改変のweb-editアプリをプロファイリングしたところ、混在する改行コードの保持が編集負荷の主要なボトルネックであることが判明した。`preserve_endings`は記録された15,296件のCPUスタックの64.8%に出現し、`SequenceMatcher.find_longest_match`はリーフサンプルの38.3%を占めていた。

  3. Anchor Browser と AgentCore payments で自動支払い可能なエージェントを構築する方法

    AWS がチュートリアルを公開し、Anchor Browser と Amazon Bedrock AgentCore payments の統合方法を紹介。AI エージェントが HTTP 402 Payment Required に遭遇した際に x402 プロトコルの支払いを自動で完了し、タスクを続行できるようにする。

  4. マネージドエンタイトルメントで Amazon Bedrock のプライベート価格オファーを管理する方法

    Amazon Bedrock とマネージドエンタイトルメントを組み合わせると、企業は中央アカウントで AWS Marketplace のプライベート価格オファー(MPPO)を購読し、組織内の複数アカウントにアクセス権を配布できる。

10月13日

火曜日
  1. Amazon SageMaker AI における MoE カーネルエンジニアリング最適化の実践

    MoE モデルの decode 段階で M 次元が小さすぎるために Hopper GPU の利用率が低い問題に対し、AWS は Swap-AB 最適化を提案し、エキスパート出力次元 N=8192 を第一オペランドに引き上げた。H200 上で大規模 MoE モデルに 2~4% のエンドツーエンドスループット向上をもたらし、この最適化は vLLM 0.24.0 以降にマージ済みである。