本文へ移動

#デプロイ・運用

今日 0 件

10月29日

木曜日
  1. Amazon Bedrock AgentCoreで企業向けAgentic AIプラットフォームを構築

    AWSはAmazon Bedrock AgentCoreを基盤とする企業向けAgentic AIプラットフォームのブループリントを公開した。連邦型の運営モデルを採用し、中央のPlatformチームがガバナンスされた共有サービスを提供、各Workstreamチームがエージェント、ツール、データの所有権を保持する。

10月28日

水曜日
  1. Anthropicはいかにして世界一のLLMを安全に提供するのか——「頭脳」と「手」を分離

    Latent SpaceがAnthropicのKatelyn Lesse氏とAngela Jiang氏を招き、Claude Platformのエンジニアリング実装を解説。Opus 5.5のリリース、モデルの「頭脳」とエージェントの「手」の分離、APIのスケーリング、信頼性の高いマネージドエージェントの構築などを取り上げる。

  2. Exowatt、SageMakerのサーバーレスモデルカスタマイズでフロンティアモデルを精度で上回り、コストは最大49分の1に

    ExowattはAmazon SageMaker AIのサーバーレスモデルカスタマイズを活用し、エッジとクラウドの2つの展開先向けにタスク特化モデルをファインチューニングした。精度はフロンティアモデルを上回り、コストは最大49分の1に抑えられる。エッジのアラームトリアージにはQwen3-1.7B、クラウドのエネルギー市場分析にはQwen3-14Bを基にし、後者はAmazon Bedrock Custom Model Importでホストされる。このプロセスにより、生の運用データから評価済みの展開成果物までの道のりが数カ月から数日に短縮された。

  3. Property Finder、評価バイアスを修正しAmazon Bedrockでより優れたモデルを選定

    Property Finderは、評価ラベルの96.8%が人手による検証ではなく既存の視覚言語モデルの予測に由来しており、代替モデルが比較で構造的に不利になっていたことを突き止めた。チームはUAEの画像356枚を再び人手でラベリングし、マルチラベル分類に切り替え、v0からv27までのプロンプト反復最適化を組み合わせてAmazon Bedrock上で新モデルを選定。精度は向上し、コストは86%削減された。

10月27日

火曜日
  1. Nvidia、インド新興Simplismartに出資 より少ないGPUでAIモデルを動かす支援

    Nvidiaがインド新興企業Simplismartの1400万ドルのシリーズBラウンドに参加した。評価額は約1億ドル。同社のソフトウェアは企業がAIモデルをより効率的に運用し、一部の場面ではGPU使用量を削減できる。Simplismartによると、AI動画プラットフォームのInVideoでGPUサービスコストを56%削減したほか、HeyGen、Higgsfield、Emaも顧客に名を連ねる。年換算収益のランレートは過去6カ月で14倍に伸び、収益の半分超が米国由来だという。

  2. 産業インテリジェンス:製造業の次の成長機会

    製造業の産業インテリジェンスは、蓄積された工程知識、生産データ、業務理解から成り立つ。現在の機会は、こうした知能を意思決定の現場で使えるようにし、物理的な製造の世界と結びつけることにある。Toyota Industries は断片化していた塗装工程のデータを統合し、分析サイクルを5日から4時間以内に短縮、試験導入では関連する塗装不良が約25%減少した。Rockwell Automation のシンガポール工場は保守 copilot で製造データ、設備マニュアル、ベテランの経験を統合し、新入社員が数百台の設備のトラブル対応を習得する期間を9カ月から3カ月に短縮した。

  3. webframe 評価:スクレイピングツールとサンドボックスとしての性能

    Jeff Lindsay の webframe を評価したところ、Go と glaze ライブラリをベースにした軽量なブラウザ JavaScript 実行ツールで、スクレイピング性能は shot-scraper と同等だった。一方で CSP の失敗、0×0 のビューポート、読み込みのハング、HTTP メタデータの欠落、ブラウザ制御の限定といった問題も見つかった。

  4. Supabase、10億規模のAIアプリ時代に向けたバックエンド構想を語る

    Supabaseの共同創業者Paul Copplestone氏とAnt Wilson氏がインタビューで、AIエージェントが大量にアプリを生成する世界に向けたバックエンド設計について議論した。データベースのそばで長時間稼働するワークロードを動かすSupabase Compute、エージェントがスキーマを理解しやすくする工夫、Postgresの信頼性とスケーリングなどが話題に上った。

  5. AIエージェントの「土撥鼠の日」:Amazon BedrockでOpenAIモデルを使う際のプロンプトキャッシュパターン

    Amazon BedrockでOpenAIモデルを使う場合、プロンプトキャッシュにより、AIエージェントが毎ターン、ツール定義や指示、履歴を再送信するのを避けられ、入力コストを抑えられる。キャッシュには、Bedrockが再利用可能なプレフィックスを自動選択する暗黙的キャッシュと、prompt_cache_breakpointで境界を指定する明示的キャッシュの2種類があり、併用が推奨される。

10月25日

日曜日
  1. Anthropic、単一エージェントは品質・コスト・遅延でマルチサブエージェント構成に勝ることが多いと発表

    Anthropicは、必要に応じてコンテキストを読み込む単一のエージェントが、品質・コスト・遅延の面でマルチサブエージェント構成より優れることが多いと述べ、チームがサブエージェントを統合すべきか評価できるよう移行キットを公開した。Opus 4.5以降の新モデルは単一ループで複雑な計画を直接管理でき、ある比較では単一エージェント構成はマルチエージェント方式の約2倍速かったとしている。

10月24日

土曜日
  1. Bayer Crop Science、Amazon Bedrock AgentCoreとAWS Unified Operationsでエージェント型意思決定エンジンを構築

    Bayer Crop ScienceはAmazon Bedrock AgentCoreを基盤にマルチエージェント型の自然言語インターフェース「Agentic Decision Engine(ADE)」を構築した。第1フェーズでは、ユーザーの質問の約80%がエンジニアの介入なしで解決される。

  2. AWS CDKでSageMaker AIエンドポイントの自動スケーリングをオーケストレーション

    SageMaker AIのリアルタイムエンドポイントを更新する際、自動スケーリングが登録済みだとデプロイが失敗する問題について、AWSは再利用可能なCDK constructを提示した。3つのCloudFormationカスタムリソースを使い、エンドポイント更新の前後でスケーリングターゲットを自動的に登録解除・再登録する。

  3. OpenAI、10億人超のChatGPTユーザーを支えるオンラインストレージの拡張手法(後編)

    OpenAIは信頼性の高いマルチテナント構成、グローバルキャッシュ、Azure Cosmos DBを用いてHabitatストレージシステムを拡張し、ChatGPTの読み取り速度を12倍に向上させた。このシステムは10億人を超えるChatGPTユーザーの規模を支える必要がある。

10月23日

金曜日
  1. inDrive、Pony.ai、Nvidiaと組み2027年にカザフスタンでRobotaxiの試験走行を計画

    配車プラットフォームのinDriveは、中国の自動運転企業Pony.ai、Nvidiaと覚書を締結し、2027年上半期にカザフスタンの首都アスタナでRobotaxiの試験走行を行う計画を明らかにした。初期は安全担当者を同乗させ、最終的には完全無人運転を目指す。

  2. EXL、持続的に進化するAIサービングフレームワークの設計を語る

    EXLは、企業AIの競争優位性がモデル能力からモデルを囲むサービングハーネス(アーキテクチャ、メモリ管理、スケジューリング、推論最適化のエンジニアリングシステム)へ移りつつあると提言した。まず業務負荷から制約を定めてからアーキテクチャを選ぶべきだとし、KVキャッシュが並行数とコンテキストの増加に伴いGPUメモリ不足を招く例を挙げ、測定してから最適化することを強調。フレームワークは新しいモデルやハードウェアを取り込みやすくし、モデル変更をアーキテクチャ再構築ではなく評価と設定の判断にするべきだとしている。

  3. Amazon SageMaker AI 上の TTS 自動スケーリング目標値、推測はもう不要

    自前でホストする TTS エンドポイントの自動スケーリング目標値を推測に頼る問題に対し、AWS は Amazon SageMaker AI のリアルタイムエンドポイントに 8200 万パラメータの Kokoro-82M をデプロイし、実測した Q_max(1 インスタンスが SLO 内で処理できる最大同時実行数)と T_total(スケールアウト 1 回のエンドツーエンド所要時間)から、スケールアウトしきい値、スケールインしきい値、2 つのクールダウン時間を算出した。

  4. HIPAA準拠環境でのAI導入:Amazon QuickのPHIデータガバナンス機能

    Amazon QuickはAWSのHIPAA対象サービスで、Web、デスクトップ、モバイルの各クライアントはAWS BAA締結後にPHIを扱える。プラットフォームのチャットエージェントは、臨床ノートなどの非構造化コンテンツと、請求・会員記録などの構造化データをまたいで多段階タスクを実行し、コネクタとMCPを通じて外部システムに接続する。

  5. Amazon SageMaker AI、訓練セッションAPIを発表 GPU管理なしで独自の訓練ループを記述可能

    Amazon SageMaker AIの訓練セッションAPIは、抽象化の層を訓練操作まで下げるものだ。開発者はローカルのPythonで訓練ループを書き、forward_backward、optim_step、sampleなどの呼び出しでマネージドGPU上で実行する。モデルとLoRAの読み込み、分散実行、障害復旧、チェックポイント保存はサービス側が担う。

  6. AWS、SageMaker AIでGPU管理不要のモデルカスタマイズ向けトレーニングセッションを提供開始

    AWSは、SageMaker AIのサーバーレスモデルカスタマイズにおけるトレーニングセッションが正式に利用可能になったと発表した。ユーザーはカスタム損失関数や報酬シグナルを含むトレーニングループを自ら記述・調整でき、GPUの割り当て、分散実行、障害復旧、チェックポイントの保存はプラットフォームが担う。

  7. IskayPet、Amazon Bedrock Managed Knowledge Basesで企業知識を統合する方法

    IskayPetはAmazon Bedrock Managed Knowledge Basesを基に企業知識アシスタントを構築し、従業員が小売運営、獣医療、人事オンボーディング、購買などの文書を自然言語で照会できるようにした。4言語・3カ国をカバーし、RAGインフラを自前で管理する必要はない。

10月22日

木曜日
  1. NVIDIA、AIファクトリー向けエンドツーエンド可観測性を実現するMinervaを発表

    NVIDIAはAIOpsプラットフォーム「Minerva」を発表した。インフラとAIワークロードのテレメトリデータを集約し、専用AIモデルでデータを実行可能な洞察に変換する。GPU、SuperNIC、スイッチ、ストレージ、スケジューラ、ジョブをまたぐ動的ナレッジグラフを構築し、毎時数十億のデータポイントを分析。大量のアラートを根本原因付きの単一イベントに集約できる。