本文へ移動

#デプロイ・運用

今日 0 件

11月12日

木曜日
  1. 地元の反対と許認可の煩雑さがデータセンター建設をなおも遅らせる

    TechCrunchのポッドキャスト「Equity」は、データセンターブームが直面する現実的な障害――地元の反対、許認可の遅れ、電力の争奪――を議論した。Ascend AnalyticsのBrent Nelson氏は、発表済みのデータセンタープロジェクトのうち実際に建設されるのはごく一部で、多くは着工に至らない可能性があると指摘する。番組ではAIインフラのバブル崩壊の影響や、非常用電源としての天然ガスが厳しい冬の気象下で信頼できるかという問題も取り上げた。

  2. 懸念されるデータセンターが建設されない可能性

    TechCrunchのポッドキャスト「Equity」が、AIデータセンターの熱狂に潜む現実的な障害を議論。発表済みのプロジェクトの多くが着工に至らない可能性があり、地元の反対や許認可の遅れ、電力確保の競争に加え、より根本的な問題としてプロジェクト自体の実現性が挙げられている。

  3. AWS、再利用可能な生成AI資産23点のカタログを公開 開発期間を数カ月から数週間に短縮

    AWS Generative AI Innovation Center(現在はAWS Frontier AI Engineering & Servicesに所属)は、RAGパイプラインや文書処理、エージェントの足場(スキャフォールディング)などを含む本番品質の再利用可能な資産23点のカタログを公開した。開発期間を数カ月から数週間に短縮できる。

  4. Amazon SageMaker AIの双方向ストリーミング推論に従量課金を導入

    Amazon SageMaker AIの双方向ストリーミング推論に従量課金が加わった。モデルプロバイダーは、リアルタイムストリーム中の実際の利用量をAWS Marketplaceに報告できる。ローンチパートナーのDeepgramは、従量課金のSTTとTTSをAWS Marketplaceに導入する。計測記録は独立したメタデータ用WebSocket接続で送信され、SageMaker AIエンドポイントのインフラ費用は従来どおり別途発生する。

  5. AWS、AIエージェントのクローズドループ評価を可能にするUAEFをオープンソース化

    AWSはオープンソースフレームワークUAEFを公開した。アダプターでLangGraph、LangChain、Strands Agents、Amazon Bedrock AgentCore、Langfuseの実行トレースをAgentTraceに統一し、7次元36項目の組み込み指標で採点する。

11月11日

水曜日
  1. Anthropic、AIがNvidiaのCUDA優位を弱めると主張 AMDチップへの移行を数カ月から3日に短縮

    Anthropicは投資家向け資料で、自社のフロンティアモデルMythosがほぼ人手を介さずに3日間でClaudeをAMDのMI355X GPU上で動作するよう移植し、カーネルのほぼ100%を自ら書き上げたと述べた。従来のエンジニアリング手法では6~12カ月かかるという。

  2. Plurai、自動運転のシミュレーション手法でAIエージェントの信頼性向上へ、1300万ドルのシード調達

    PluraiはTeam8がリードし、U&I、Velocity、Mercerが参加した1300万ドルのシードラウンドを完了した。企業自身のデジタルシステムに基づく合成データでシミュレーション環境を構築し、AIエージェントのエッジケースに備えるほか、小規模なオープンウェイトモデルの事後学習も可能にする。NvidiaとNebiusとの共同テストでは、同社のモデルが中位のフロンティアモデルをより低コストで上回った。

  3. LangGraphとAmazon Bedrock AgentCore Web Searchで毎日の依存関係を監視する

    Amazon Bedrock AgentCoreのWeb Search APIが利用可能になった。1回のAPI呼び出しで、タイトル、URL、公開日、要約を含むリアルタイムのウェブ検索結果を返す。クエリはAmazonが自社構築したインデックスで処理され、サードパーティの検索エンジンを経由しない。

  4. Amazon Bedrock AgentCore Evaluations によるエージェント評価ガイド:組み込み、DeepEval、AutoEval の各評価器

    Amazon Bedrock AgentCore Evaluations は、組み込み、DeepEval、AutoEval の3種類の評価器を提供する。組み込み評価器は AWS が作成し品質テストを経た16種類で、応答品質、タスク完了、ツール使用、スキル、安全性の5つの次元をカバーする。

  5. Resend CEO Zeno Rocha、AIエージェント向けプロダクト設計を語る:AEOとMCPサーバー設計

    Resendの共同創業者兼CEO、Zeno Rocha氏がポッドキャスト番組Latent Spaceで、AIエージェント向けにプロダクトを設計する方法を語った。AEOの調査では、Claude Codeが抽出可能な102件のメール推薦のうち64件でResendを第一候補に挙げた。収録時点でResendは430万ユーザー、12万の有料顧客を抱え、MCPサーバーのツール数は公開時の約20個から80個以上に増えた。

  6. Amazon Bedrock tokenomics データレイク:アカウント横断のモデル呼び出しを集中観測

    AWS は Amazon Bedrock の呼び出しを観測するデータレイクのソリューションを公開した。CloudWatch のログ購読で複数アカウントのモデル呼び出しログを中心アカウントに集約し、Data Firehose で Parquet に変換して S3 に書き込み、Athena で統合的にクエリする。

  7. TCS、Amazon Bedrock AgentCoreでエージェント型テストオーケストレーターを構築した方法

    TCSはAmazon Bedrock AgentCoreを基盤に、マルチテナントのエージェント型テストオーケストレーターを構築し、要件を実行可能でガバナンスの効いたテストへと変換した。プラットフォームはテストを複数の専用エージェントに分解し、決定論的なsupervisorがタスクをルーティング。AgentCore runtimeの分離されたmicroVMにより、テナント単位のセッション分離を実現している。

  8. Google、専用チップ「TPU 8tx」と「TPU 8i Max」を発表

    Googleは第8世代TPUの新たな2モデルを発表した。機密推論と大メモリ負荷の用途をそれぞれ想定する。TPU 8txはAMDと共同設計し、TPU 8tをベースにセキュリティ機能をハードウェア層に組み込み、専用推論ネットワークを備える。訓練と同時に推論を実行でき、オンザフライの蒸留や小規模モデルの訓練に使える。TPU 8i Maxは推論向けTPU 8iを2基を単一パッケージに統合し、メモリ容量、演算性能、帯域を倍増させ、モデルがクエリ時に扱える情報の範囲を広げる。

11月10日

火曜日
  1. AWS Quickでスキルとエージェントがどう連携するか

    AWS Quickはエージェント、スキル、データの3層構造でタスクを自動化する。エージェントは指示に従い、必要に応じてスキルを読み込み、コネクタを通じて操作を実行する。スキルは再利用可能な指示セットで、システムスキルはWord、PowerPoint、Excel、PDF文書の生成のほか、ウェブ閲覧、コード実行、深掘り調査、音声・動画の文字起こし、画像生成に対応する。

  2. OpenAI Control Room:研究インフラ上のモデルワークロードを追跡・停止する中央システム

    OpenAIはControl Roomを導入した。研究インフラ上のモデルワークロードを追跡し、安全やセキュリティ上の問題が生じた際にこれらのワークロードを迅速に停止できる。モデルの訓練と実行に集中的な監視と緊急停止の機能を提供する。

  3. データセンターへの反発、実は電力が理由かもしれない

    バージニア州のData Center Alleyを訪ねると、データセンターへの反発はテック企業が主張する文化戦争よりも電力問題に由来していることが見えてくる。地元のデータセンターの平均出力は54メガワットで、デンバー国際空港の消費電力を上回る。AIトレーニングに必要な最小規模のデータセンターは300メガワット、理想的な規模は約6000メガワットで、シカゴ市全体の消費電力に相当する。Anthropicはガスタービン購入に34億ドルを支払うことに合意したと報じられている。

  4. Disney、Adobe Fireflyと組みブランド安全なカスタムAIモデルを構築

    DisneyとAdobeは複数年にわたる提携を発表し、Adobe Firefly Foundryを使ってDisneyブランド向けのカスタムAIモデルを構築する。学習データにはDisneyのキャラクター、環境、ビジュアルスタイルが含まれ、商用利用可能で制作にそのまま使えるコンテンツを生み出す。

  5. AWS、初のブランドキャンペーンを開始 企業向けAIワークスペース「AWS Quick」を主軸に

    AWSはAIワークスペース「AWS Quick」で初のブランドキャンペーンを開始し、米国と英国でストリーミングTV、オンライン動画、SNS、ビジネスメディアを通じて展開する。AWS Quickにコンシューマー向け版はなく、3M、BMW、Mondelez、New York Life、Southwest Airlinesなどの企業が、データやアプリをまたいだAIエージェントによる調査・分析・実行に活用している。

  6. Amazon Bedrock AgentCore 上のプラガブルな Agentic AI フレームワーク:7層の組み合わせ可能なエンタープライズ向けエージェント参照アーキテクチャ

    AWS は Pluggable Agentic AI Framework を発表した。Amazon Bedrock AgentCore 上で動作する7層の組み合わせ可能なエンタープライズ向け Agentic AI 参照アーキテクチャで、データと知識、モデルと推論、オーケストレーション、セキュリティとガードレールなどの層をカバーする。

11月9日

月曜日
  1. Hugging Face、二階手法でMoEのエキスパートを剪定するHOPEを提案

    Hugging Faceは、エキスパート同士の相互作用を考慮する二階のMoEエキスパート剪定手法HOPE(Higher-Order Pruning of Experts)を提案した。50%の剪定率でHOPEは全手法中最高の平均順位を記録し、エージェント型コーディングタスクでは次善の剪定手法より最大+6.1%向上した。

  2. Google、1年で4種類のTPUを投入 Nvidiaとの競争を強化

    Googleは第8世代AIアクセラレータのラインナップにTPU 8txとTPU 8i Maxの2システムを追加し、1年以内に4種類のTPUシステムを提供するのは初めてだと述べた。TPU 8txは機密コンピューティング向けで、データとモデルの重みを使用中も暗号化したまま分離して保つ。TPU 8i Maxは1つのパッケージにTPU 8iチップを2つ搭載し、同じラック仕様で演算性能、メモリ、メモリ帯域を2倍にする。

  3. 元DOJ反トラスト局長のKanter氏、AIで原告の反トラスト訴訟を支援するFluxCapを設立

    米司法省反トラスト局の元局長Jonathan Kanter氏とDoha Mekki氏がスタートアップFluxCapを設立した。独自技術と既存の大規模言語モデルを基にした法務調査・分析ツールを販売し、原告が大手テック企業に対する反トラスト訴訟を組み立て、強化できるよう支援する。