本文へ移動

#デプロイ・運用

今日 0 件

10月22日

木曜日
  1. Celonis のチーフサイエンティスト Devavrat Shah 氏、企業 AI に文脈理解が必要な理由を語る

    Celonis で企業 AI のチーフサイエンティストを務める Devavrat Shah 氏は「意思決定インテリジェンス」を提唱し、AI エージェントは業務プロセスの中でタスクが果たす役割と制約を理解しなければ、重要な制約を見落としたり、高くつく誤りを犯したり、計算資源を浪費したりすると主張する。企業は具体的な業務上の意思決定から始め、最も難しい工程を特定したうえで AI が改善できるかを試し、速度と価値の向上で拡大の可否を判断すべきだと助言する。この道筋には、従業員が AI の出力を理解できるよう教育に投資し、意思決定権をそのまま渡さないことも必要だ。

  2. NVIDIAのオープンモデルが欧州公共部門の新たなプロジェクトを後押し

    NVIDIAは欧州各国政府やパートナーと公共部門のAIプロジェクトを推進する。欧州委員会はdeepsetのHaystack Enterprise Platformを基盤にAI@ECを拡張し、ポーランドはNVIDIA DGX BasePODとMONAIで医用画像プラットフォームを構築、ドイツのMaternaはオンプレミス型プラットフォームSinfonieを発表した。

  3. NVIDIAが欧州小売をどう変えるか:デジタル発見から実店舗運営まで

    NVIDIAはオープンモデルとフィジカルインテリジェンスで欧州の小売を変革している。ShopifyはNVIDIA Nemotron 3.5 LightningをポストトレーニングしてGraphQLサブエージェントを構築し、社内ベンチマークで主要なフロンティアモデルを上回る精度を達成、サービスコストを90%削減し、応答速度を7倍にした。

  4. 欧州の金融機関、NVIDIAの高速計算とオープンウェイトモデルで独自インテリジェンスを構築

    RevolutはNVIDIAの高速計算を基盤に、単一の基盤モデルPRAGMAで技術スタックを再構築している。Blackwell Ultra GPU上でcuDFとDynamo-Tritonを用いて本番展開を拡大し、当初は8000万人の顧客にサービスを提供、3倍の拡張に対応できる設計だ。

  5. マルチエージェントシステムの5つの本番課題とDeep Insightの解決策

    AWSソリューションアーキテクチャチームがマルチエージェントシステムDeep Insightをオープンソース化した。Coordinator、Planner、Supervisor、Coder、Validator、Reporter、Trackerなどのエージェントが、CSVデータ分析から引用付きDOCXレポートの自動生成までを担う。

  6. AWS PrivateLink で Amazon Quick の企業内ネットワークへのプライベートアクセスを実現する方法

    AWS は、AWS PrivateLink の VPC エンドポイントと Quick の VPC 接続を通じて、Amazon Quick がパブリックインターネットを経由せずに企業ファイアウォール背後のオンプレミスデータソースへアクセスできるようにする構成を公開した。

  7. Blacksmith、Sequoia主導のシリーズCで6600万ドル調達、評価額10億ドルでユニコーンに

    BlacksmithはSequoiaが主導するシリーズCで6600万ドルを調達し、評価額は10億ドルに達した。同社のプラットフォームは、AIが生成したコードを含むソフトウェアの構築とテストを企業がより効率的に行えるようにするもので、年間経常収益は17倍に成長し、9000万件以上のCIジョブを実行してきた。顧客にはMercuryやGranolaが含まれる。今回の調達は4500万ドルのシリーズBからわずか2カ月後で、累計調達額は1億2500万ドルとなった。

  8. U.S. Hunger、Amazon Quickで経営陣とデータをつなぐ

    米国の非営利団体U.S. HungerはAmazon Quickを活用し、経営陣が組織のデータを直接探索できるようにした。SQL Serverのデータは毎晩2時にSPICEインメモリエンジンへ更新される。Quick Spacesは経営チームに共有のKPI定義、財務文書、分析スペースを提供し、現在17名の同僚がアクセス権を持ち、経営幹部、技術、Full Cartプロジェクト、財務、コンプライアンスなどの職能をカバーしている。

  9. Strands Agents ベースの適応型エージェントフレームワーク AAIF、ローカル SLM でリクエストを振り分け、複雑なタスクは Amazon Bedrock へ

    Strands Agents で構築した Adaptive Agentic Intelligence Framework(AAIF)は、llama3.2:1b をオーケストレーション層としてリクエストを分類し、定型タスクは Ollama のローカル SLM で処理、複雑な分析は boto3 経由で Amazon Bedrock にルーティングする。

  10. TorchNeuron の性能プロファイリング(1):AWS Trainium でのシステムレベル性能分析

    Hugging Face のブログが「Profiling TorchNeuron」シリーズの第1回を公開した。AWS Trainium 上で torch.profiler を NeuronConfig および NeuronProfiler と組み合わせてクリーンな trace を取得し、key_averages() テーブルから Neuron デバイス時間を消費する演算子を特定する方法を解説している。

  11. Dharma-AI、語彙の専用化でSLMの推論コストを77%削減

    Dharma-AIはHugging Faceのブログで、近く公開するVocabX論文を紹介した。語彙を頻度ではなくトークンあたりのコストに基づいて再構築する手法により、Qwen3-4Bベースのポルトガル語作文採点器で実測の推論コストを77.0%削減し、平均応答を350トークンから101トークンに、benchスコアを0.703から0.810に改善した。

10月21日

水曜日
  1. Nvidia、プレハブ型データセンター「DSX POD」を発表 構築期間を6カ月から14日に短縮へ

    NvidiaはGTC BerlinでDSX PODを発表した。Vera Rubinシステムを中心に構成するモジュラー型データセンターのリファレンスデザインである。Dell、HPE、Lenovo、Schneider Electricなどのパートナーが計算、ネットワーク、配線、電源、液冷の設置と試験を工場内で完了し、現場では電力、冷却、ネットワークに接続するだけで済む。Nvidiaは構築期間を6カ月から最短14日に短縮できるとしている。

  2. Monday.com調査:AIは生産性を高めるが、管理者による従業員の成果評価を難しくする

    Monday.comがNielsenに委託し、7カ国1700人の取締役と幹部を対象に実施した調査によると、半数以上の幹部がAI導入後に従業員の仕事を評価しにくくなったと答えた。半数近くの管理者がチームの成果を確認する時間が増えたとしている。94%の管理者はAIによる効率化に期待しているが、78%が従業員評価の方法を変え、プロンプト能力やタスク配分の判断をより重視している。46%の管理者は意思決定にAIを活用し、39%は人事評価の下書きにAIを使っている。

  3. NVIDIA、機密コンピューティングを拡張し「Confidential Bare Metal」導入オプションを提供

    NVIDIAは機密コンピューティングの機能を拡張し、新たにConfidential Bare Metal導入オプションを追加した。フロンティアモデルの構築事業者が第三者の専用インフラ上で機密性の高いワークロードを実行する際も、モデルとデータの制御を維持できるようにする。

  4. NVIDIAのクラウドパートナーが欧州で拡大:主権、オープン、安全なAIエージェントのために

    NVIDIAのクラウドパートナーは欧州、北欧、アフリカ、中央アジアでモデル学習と推論向けの地域計算能力を拡大し、エージェントやフィジカルAIアプリケーションを支援している。NscaleはGB300 NVL72システムのテストでNVIDIA DSX MaxLPSを活用し、同じ電力予算でGPUを37%多く配備し、集約推論スループットを約50%向上させた。

  5. Google CloudとNVIDIA、Vera Rubinインフラの一般提供開始を発表

    Google CloudとNVIDIAは、Vera RubinベースのA5Xインスタンスの一般提供開始を発表した。提供は来月からで、欧州への拡大も計画している。A5XはNVIDIA Vera Rubin NVL72、ConnectX-9 SuperNICs、Google Cloud Virgo Network、第4世代液冷技術を統合し、大規模なエージェント推論や強化学習のワークロードに対応する。

  6. NVIDIA、GTC BerlinでRTX Spark、DGX Spark、DGX StationのローカルAI製品群を披露

    NVIDIAはGTC BerlinでローカルAIハードウェアのラインナップをまとめて展示した。RTX SparkはWindows PC上でパーソナルエージェントを実行し、DGX SparkはLinux開発者向け、DGX Stationは企業のフロンティアワークロード向けで、Windows版は12月に登場する見込みだ。

  7. Tenexはフォーチュン2000企業向けにAIネイティブなSDLCをどう構築するか——Alex Lieberman氏とCJ Hess氏のインタビュー

    Tenexの共同創業者Alex Lieberman氏とCJ Hess氏がAIE New Yorkで、成果物ベースの報酬モデルをエンジニアリング組織の実践へと広げた取り組みを語った。同社は75人まで成長し、顧客はフォーチュン2000企業と中堅企業に及ぶ。

  8. DeepSeek、推論フレームワーク「DeepInfer」をオープンソース化 単一クラスタで1日155兆トークン処理

    DeepSeekは、V4.1 Flashを支える本番推論フレームワーク「DeepInfer」をオープンソース化した。vLLMをベースにカスタマイズし、Apache 2.0ライセンスを採用。分散推論、投機的デコーディング、SWA Bounded Replay、構造化出力に対応し、NVIDIAとHuawei Ascendの両プラットフォームをカバーする。

  9. SF Compute CEO Evan Conrad、プログラマブルデータセンターとGPU算力取引市場を語る

    SF ComputeはGPU算力を取引可能な市場にしようとしており、物理的な納品も自ら担う。買い手が得るのは指数に対する現金決済ではなく、実際に使える算力だ。CEOのEvan Conrad氏によれば、NVIDIAは中立性を欠くためこの種の取引所を自前で作れないが、SF Computeは制約条件の異なる注文をマッチングすることで、技術が進化し続ける中でも取引を成立させられる。同社はさらに、InfiniBandネットワーク構造をオンデマンドで分割でき、インフラをプログラマブルにしている。

  10. Google、TorchTPU をオープンソース化、PyTorch アプリを書き換えずに TPU で実行可能に

    Google は火曜日、PyTorch の TPU 版である TorchTPU をオープンソース化したと発表した。開発者は設定を変更するだけでコードを書き換えることなく、既存の PyTorch アプリを Google の TPU および Google Cloud に移行できる。

  11. Hugging FaceがTorchTPUに対応、TransformersとDiffusersがTPUをネイティブサポート

    Hugging Faceは、ネイティブなPyTorchバックエンドであるTorchTPUへの対応を発表した。Transformers、Diffusers、KernelsがTPU上で直接動作するようになり、モデルの読み込みはdevice_map="tpu"またはpipe.to("tpu")を渡すだけで済み、torch_xlaやOptimum TPUは不要になった。