本文へ移動
assaynotes
EN日本語中文

#デプロイ・運用

今日 5 件

7月30日

木曜日

7月27日

月曜日

7月16日

木曜日

7月13日

月曜日

7月10日

金曜日

7月9日

木曜日

  1. Mistral Studio、Prompts と Skills の記録をシステムで管理

    Mistral Studio は Prompts と Skills の集中管理を顧客に提供した。各資産には版の履歴、明確な責任者、追跡可能性がある。不変版、ロールバック、分類タグ、監査ログで AI の行動を管理・発見でき、Observability で本番出力を該当版まで追える。Skills は Studio から MCP サーバーとして直接呼び出せ、本番で同じ管理対象資産が実行される。

7月8日

水曜日

  1. Hugging Face、ネイティブ並みの速度のvLLM transformersモデリングバックエンドを公開

    Hugging Faceは、vLLMのtransformersモデリングバックエンドが複数のLLM構造で、vLLMの手書きネイティブ実装と同等以上の処理速度に達したと発表した。torch.fxによる静的グラフ解析とastによるソース書き換えで、推論向けの層融合を実行時に動的適用し、専用コードと同等の性能を実現する。

7月7日

火曜日

  2. 知能が無料になった後、エージェント向け・エージェント運用・エージェント構築のデータシステム

    推論費用が2023年初めの GPT-4 級の100万トークン約30ドルから、現在は1ドル未満、一部企業では0.10ドル未満に下がるなか、UC Berkeley の Aditya G. Parameswaran らはエージェント時代のデータシステムに For Agents、Of Agents、By Agents の三方向を提案した。

  3. Hugging Face と SkyPilot、外向き通信料ゼロのストレージ連携を公開

    Hugging Face と SkyPilot は連携を公開した。hf:// URL と既存の HF_TOKEN で Hugging Face Bucket または任意のモデル・データセット・Space リポジトリーを SkyPilot の作業にマウントし、20超のクラウド、Kubernetes、Slurm、ローカル環境で実行できる。

7月6日

月曜日

6月29日

月曜日

  1. Import AI 463：NVIDIA ENPIREのロボット自己改善、中国GPU1万枚クラスター、人類時代の挽歌

    NVIDIAのENPIREはコーディングエージェントで実際のロボットアームの実験・改善を自動化する。双YAMアームとRTX 5090でPushT、ピン整理、カッターで結束バンドを切る課題に99%成功した。GPT-5.5/CodexとOpus 4.7/Claude Codeは互いに勝敗があり、Kimi-2.6は劣った。8エージェントに増やすと良い解を速く見つけた。

6月27日

土曜日

6月25日

木曜日

  1. Google、線形弾性キャッシュでクラウド費用を改善、ページ退避をスキーレンタル問題に

    Google Research は線形弾性キャッシュを提案した。ページ退避をスキーレンタル問題として扱い、浅い決定木で TTL を予測して容量を動的に変え、総保有費用を最小化する。Spanner 本番で数か月運用し、メモリーを15.5%削減、ミスは5.5%増にとどまり、TCO は約5%下がり、実際の I/O 費用影響は0.5%だった。複数の公開キャッシュトレースでも検証した。

6月24日

水曜日

6月23日

火曜日

  1. Mistral、文書解析モデル OCR 4 を公開

    Mistral は OCR 4 を公開した。文字抽出に加え、境界ボックス、ブロック種別、ページ・単語ごとの信頼度を返す。170言語に対応し、単一コンテナで自社運用できる。600超の文書で独立した評価者による盲検評価を行い、平均72%が OCR 4 を好んだとする。OlmOCRBench は85.20、OmniDocBench は93.07だが、両基準の採点方式には既知の限界があると注意する。

6月13日

土曜日

  1. Google、退役Pixel2000台によるUC San Diegoの低炭素計算基盤を支援

    UC San DiegoはGoogleの支援で、退役したPixel2000台の基板からデータセンターを作り、数百人の学生・教員に安価で低炭素のクラウド計算を提供する計画だ。SPECでは25～50台が現代的サーバー1台に相当し、Kubernetesで管理する25～50台のクラスターにまとめる。2026年秋の稼働を予定する。

6月11日

木曜日

5月28日

木曜日

  2. Google、ゼロトラスト集計によるプライバシー分析を導入

    Googleは単一メッセージの暗号集計とTEEを組み合わせ、端末が複数回オンラインになる必要のないゼロトラスト分析を導入した。Googleは匿名の集団集計だけを得て、ハードウェア保護内でも生データを露出・再構築しない。TEE認証は公開コード通りの実行を証明する。

5月27日

水曜日

  1. Mistral、産業エンジニアリングを加速する物理 AI 基盤を公開

    Mistral は Emmi AI を統合後、AI ネイティブ産業設計向けの物理 AI 基盤を公開した。ASML、Airbus、Safran、Siemens Energy が協力する。形状と境界条件から物理場を直接予測し、単一 GPU の1回の順伝播で数秒で終える。従来の CFD/FEM は設計ごとに数時間から数週間かかる。設計反復を速める用途で、検証や特殊条件には従来ソルバーを残す。

5月23日

土曜日

  1. Mistral、Physics AI 企業 Emmi AI を買収

    Mistral AI は今週、産業企業の AI 転換支援を強化するため Physics AI の先駆者 Emmi AI を買収する最終契約に署名した。Austria で設立された Emmi AI は30人超の研究者・技術者を擁し、大規模エンジニアリングモデルで数日かかる計算をリアルタイムシミュレーションに置き換え、デジタルツインを構築する。共同創業者とチームは5月に Mistral の Science と Applied AI チームに加わる。

5月22日

金曜日

5月17日

日曜日

  1. Google、SynthIDとC2PAのコンテンツ検証を検索、Gemini、Chromeへ拡大

    Googleはコンテンツの透明性・検証ツールをSearch、Gemini、Chrome、Pixel、Cloudへ拡大すると発表した。SynthIDは1000億超の画像と動画、6万年分の音声に透かしを付けた。Geminiアプリ内のSynthID検証は5000万回利用され、今後数週間でSearchとChromeにも導入される。

5月8日

金曜日

  1. 適応的並列推論：効率的な推論拡張の次の形

    Berkeley AI Researchは並列推論の進展を整理し、独立した小課題をいつ分解・並列化するか、同時スレッド数、調整方法をモデル自身が決める適応的並列推論を分析した。Self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink、Hogwild! Inferenceなどは外部で並列構造を事前設定し、適応的な行動を教えていない。

4月27日

月曜日

4月22日

水曜日

4月20日

月曜日

  1. GRASP、世界モデルの勾配に基づく長期計画手法

    Berkeley AI Researchは学習済み世界モデルの勾配計画器GRASPを提案した。軌跡を仮想状態へ引き上げて時系列を並列最適化し、状態反復に乱数を直接注入して探索する。勾配を整えて行動へ明確な信号を送り、高次元視覚モデルの脆い「状態–入力」勾配を避け、長期計画を実用的かつ頑健にする。

3月31日

火曜日

  1. Mistral AI、人とエージェント向けCLIのSpacesを公開

    Mistral AIは人の開発者とコーディングエージェント向けSpaces CLIを公開した。spaces initやspaces devなどで雛形作成、開発環境、配置を進め、対話プロンプトごとに対応するflagがあるため、エージェントが全工程を自律実行できる。initはcontext.jsonとAGENTS.mdを生成し、構造と規則を伝える。

3月25日

水曜日

3月18日

水曜日

  2. Mistral AI、企業の独自知識で最先端モデルを訓練する Forge を公開

    Mistral AI は独自知識に基づく最先端級 AI モデル構築システム Forge を公開した。事前訓練、事後訓練、強化学習に対応し、dense と MoE の構造を扱う。必要に応じてマルチモーダル入力にも対応し、企業内の基盤でモデルの訓練とガバナンスを行える。

1月22日

木曜日

  1. Heaps do lie：vLLMメモリーリークの調査

    Mistral AIはMedium 3.1のPrefill/Decode分離配置でvLLMのメモリーリークを調査した。システムメモリーが毎分400MB増え、数時間で不足する。グラフコンパイルを有効化しNIXLでKVCacheを送るdecode側だけに現れた。Heaptrackではヒープが安定しており、問題はヒープ外にあった。

12月17日

水曜日

12月3日

水曜日

11月19日

水曜日

  1. Mistral AI、SAP・Helsing と協力、ドイツ拠点を開設へ

    Mistral AI は SAP と複数年契約を結び、AI Foundation にモデルを統合し、欧州の複雑な産業と公的部門向け独自方式を共同開発する。Helsing とは防衛・安全向け vision-language-action モデルの研究を加速する。今後数か月にドイツ拠点を開き、現地人員も大幅に増やす。

10月24日

金曜日

8月1日

金曜日

  1. Mistral、Pixtral-12Bの微調整で衛星画像の視覚言語性能を改善

    MistralはLoRAでPixtral-12Bを微調整し、Aerial Image Dataset（AID）の衛星画像分類で未調整の基準を大きく上回り、幻覚による無効な分類名を減らした。Mistralの微調整APIかLaPlateforme UIを使い、大規模なハイパーパラメーター調整は不要だ。学習8000、テスト2000に分割した。