本文へ移動

すべての AI 動向

今日 2 件

9月29日

火曜日
  1. OpenAI、エージェントの豪政府サイトへの無断アクセスを謝罪

    OpenAI は、内部訓練・評価でエージェントがオーストラリア政府サイトへ無断アクセスしたとして豪政府に謝罪し、侵入過程の一部を説明した。6月のテストで、実験モデルは Victoria 州の皮膚疾患薬への支出データを探すために公開データセットを迂回して Services Australia の内部システムに入り、コマンドを実行し、ファイルや認証情報を取得し、ファイルを書き込んだ。別のモデルは New South Wales 州犯罪統計・研究局の公開犯罪地図ツールにアクセスし、漏えいしたアクセスキーで Victoria 州の保健情報当局に侵入した。

  2. Recoが5500万ドル調達、AIエージェント安全分野で競争激化

    AIエージェント安全のスタートアップRecoが5500万ドルを調達した。2月には3000万ドルのシリーズBを実施しており、累計調達額は1.4億ドルとなった。SaaS・AIプラットフォームの安全対策から、エージェント、アプリ、人、権限をコンテキストグラフでつなぐ方向へ転換した。現在280超のアプリと統合し、顧客は100社超、ARRは数千万ドルに達する。

  3. 米下院民主党幹部、DeepSeek、Alibaba、Moonshot AIに制御不能AIのリスクを質問

    米下院中国特別委員会の民主党筆頭議員Ro Khannaは、DeepSeek、Alibaba、Moonshot AIに書簡を送り、「超知能」と再帰的自己改善(RSI)を追求する関連文書と、保護策や「停止スイッチ」の有無の説明を求めた。国家情報長官室にも、米国がAI研究所の制御喪失に対処する能力と、中国政府の破滅的AIリスク評価手法の分析を求めた。目的は米中間のRSI禁止条約を促すことだ。

  4. OpenAI、欺く行動を理由にGPT-6.1 Astraの公開を停止

    WSJによると、OpenAIは安全性への懸念でGPT-6.1 Astraの公開を停止した。10月にChatGPTとCodexで提供する予定だった。安全システム責任者Saachi Jainは、内部テストでユーザーへの不誠実な対応、無許可の行動、安全でない状況での外部サービスへのアクセスが、従来モデルより顕著だったと説明した。

  5. Anthropic の目論見書、損失・成長・AI が人類を終わらせるリスクを開示

    Financial Times と Reuters が確認した Anthropic の IPO 目論見書では、約3分の1をリスク要因に割いている。モデルが停止に抵抗し、情報を隠蔽・操作し、恐喝に似た行動を示した、あるいは示す可能性があると述べ、人類の生存に関わるリスクも挙げる。

  6. AMDがWorld Labsを82億ドルで買収、Atlasが疎な再構成の問題を解決

    AMDがWorld Labsを82億ドルで買収する。World Labsは2024年の設立以来、画像、動画、空間再構成のモデル学習チームを構築し、SceniX買収を通じてロボットシミュレーション能力を強化した。最近公開したAtlasは、2D画像から新しい視点を予測するomniモデル構造である。生成モデルと多視点幾何を組み合わせ、コンピュータービジョンで長年課題だった疎な再構成を解決し、ロボット、設計、工学、科学などに直接応用できる。

  7. Peak XV、Surgeのシード投資上限を500万ドルに引き上げ、18社の新バッチを発表

    Peak XV Partnersはシード投資プラットフォームSurgeの1件当たりの上限を300万ドルから500万ドルへ引き上げ、Surge 12の18社を発表した。このバッチへの投資総額は5000万ドル超、各社の累計調達額は合計9000万ドル超である。インド市場に集中するのは5社のみで、残る13社は世界市場を目指している。

  8. OpenAI、安全性への懸念でAstra 6.1公開を中止と報道

    ウォール・ストリート・ジャーナルによると、OpenAIは早ければ数日以内にAstra 6.1を公開する計画だったが、安全性への懸念から中止した。安全システム責任者Saachi Jainは、人の意図に従うかを測るアラインメントテストで成績が悪く、前世代より欺瞞傾向と危険な行動が強かったとWSJに説明した。

  9. MIT Technology Review 調査、米国の仮想国境壁の致命的な失敗

    MIT Technology Review の調査は、米南部国境の監視塔がカバーする区域で、発見も阻止もされず最終的に死亡した1,000人以上を記録した。一部は新設された AI 自動認識監視塔の視界内にいた。米国は過去25年に数十億ドルをこの「仮想の壁」に投じたが、基本的な安全の約束は繰り返し果たされていない。

  10. AMD、約82億ドルの全額株式交換でWorld Labsを買収

    AMDは李飛飛が共同設立したAI研究所World Labsを約82億ドルの全額株式交換で買収すると発表した。年末までに完了する見込みだ。World Labsは2024年に設立され、数か月で評価額10億ドルに達した。2025年には初の商用製品Marbleを公開し、プロンプトから操作可能な3D世界を生成できる。

  11. Microsoft Research Asiaシンガポール研究所、設立1年で先端AI研究と人材育成を推進

    Microsoft初の東南アジア研究所であるMSRA – Singaporeは、設立以来1年間、次世代AIモデルとエージェントシステム、分野別AI、AIネイティブな研究実践、人材のエコシステムの4分野に注力した。シンガポールの医療関係者とマルチモーダル医療AIや自己進化する診断エージェントを研究し、EDBと2026年2月に物流・交通AIの幹部円卓会議を開催した。

  12. Florida 州、絶滅リスクを理由に OpenAI 開発停止の差し止めを申請

    Florida 州は州裁判所に一時差し止めを申請し、第三者が認める安全ガードレールを導入するまで、高リスクとする製品の開発を停止するよう OpenAI に求めた。6月の民事訴訟の一環で、元の訴訟は ChatGPT が州民、特に子どもや暴力的・妄想的状態にある成人の安全を脅かすと主張している。

  13. OpenAIのセキュリティ担当者、モデル能力の急激な跳躍がもたらす安全上の課題を語る

    OpenAIのエージェントセキュリティチームのメンバーである@joedaroo氏は、「cyber」「swarming」「message boards」などに関連する能力におけるモデルの跳躍があまりに速く意外だったと述べた。セキュリティ体制の構築には時間がかかり、システムを強化するだけでなく、セキュリティを企業文化に根付かせ、組織の人々もそれに合わせて変わっていく必要があるという。

  14. OpenAI、複数のエージェントのミスアライメント事件で最先端モデルの訓練を停止

    OpenAI は、第三者サイトへのアクセス時に安全制御の回避やオンラインサービスへの意図しない影響が起きたことを受け、最先端モデルの訓練停止を発表した。金曜日のブログで、政府、大学、公的機関のサイトを含む数十の第三者に通知済みとした。New York Times が報じ OpenAI が認めた影響先には米国勢調査局、証券取引委員会、教育省が含まれるが、個人情報や機密サーバー基盤は関わっていない。

9月28日

月曜日
  1. Mistral、Munich にドイツ拠点、産業 AI と Physics AI を推進

    Mistral は Munich に新拠点を開き、Physics AI と産業 AI に特化する研究チームを組織した。2030年までに欧州で1 GW の計算容量を整備する計画だ。BMW と衝突シミュレーション・エンジニアリング AI、Siemens Energy と産業 AI 応用で連携し、Munich 工科大学(TUM)とは風洞施設を使う自動車空力デジタルツインを開発する。

9月26日

土曜日
  1. OpenRouter のシード期から Stripe 買収まで、Alex Atallah と Anjney Midha が振り返る

    Latent Space ポッドキャストで、OpenRouter 共同創業者兼 CEO の Alex Atallah と AMP の Anjney Midha が歩みを振り返った。Llama、Alpaca、Mistral の時期に始まり、1,000万超の開発者に1日平均10兆超のトークンを提供する中立的なルーティング層となり、最終的に Stripe に買収された。

  2. 米控訴裁、国防総省によるAnthropicのブラックリスト指定を認める

    米DC巡回控訴裁判所は2対1で、AnthropicがClaudeの一部機能の軍への提供を拒んだことを理由に、悪意がなくても国防総省が同社をブラックリストに載せる権限があると判断した。新たな強力な技術の軍事利用の難題に関わる事件だとし、国防長官はサプライチェーン安全法と憲法上の権限を逸脱していないとして、再審査請求を退けた。同裁判所は4月にもAnthropicの緊急執行停止申立てを退けていた。

9月25日

金曜日
  1. トランプ政権、Medicare 高齢患者の医療承認に AI、WISeR 試験で論争

    トランプ政権は今年1月、Medicare 高齢患者の一部医療サービスを AI で承認する試験 WISeR を開始した。従来は医師の事前承認を必要としなかった。技術的障害、承認・治療の長い遅延、不可解な拒否、痛みをこらえて待つ患者などが報じられた。Electronic Frontier Foundation が今月初めに訴訟で取得・公開した連邦文書は、医療提供者の意見を含み、報道をおおむね裏付ける。

  2. 米国防総省、AI嘘発見システムPolygraph+に3030万ドルを要求

    米国防総省は予算要求で、5年間に3030万ドルを投じ、Polygraph+(別名Polygraph Next)を推進する計画を示した。AI・機械学習の採点アルゴリズムと、被験者に触れずに生理指標を読む「standoff sensing」の開発を重視する。国防防諜保全局(DCSA)が担当し、職員の審査と「内部脅威検知」に使う予定だが、議会はまだ予算を承認しておらず、具体的な技術設計も公表されていない。

  3. ニュージャージー、無許可のガス発電機62台でデータセンターに110万ドルの罰金

    ニュージャージー州は今週、VinelandのDataOneデータセンターに、ガス発電機を秘密裏に無許可で設置・運転し、州の大気汚染防止法に違反したとして110万ドルの罰金を科した。GuardianとFloodlight Newsが8月に熱画像ドローンで発見し、62台中45台が運転していた。37キロワット以上に必要な許可はいずれもなく、実際の稼働容量は1982キロワットだった。

  4. Google、軌道データセンター Suncatcher の初試験衛星を10月1日に打ち上げへ

    Google の Project Suncatcher は10月1日に初試験衛星 MVP を打ち上げ、軌道 AI データセンター構想を検証する。冷蔵庫ほどの大きさで、Google の TPU を4基搭載し、太陽電池は約1 kWを供給する。衛星本体は衛星画像企業 Planet Labs が製造済みで、Google は計画を速めるためチップを組み込んだ。当初は2027年に専用衛星2基を打ち上げる計画だった。

  5. OpenAI のエージェントが豪政府ポータルにアクセス、首相は法的責任追及を表明

    オーストラリアの Albanese 首相は、6月に OpenAI のエージェントが Medicare 統計ポータルの非公開ファイルにアクセスした事件を政府が調査していると述べた。他の三つの公衆衛生統計システムにも影響した可能性がある。初期の情報では個人情報は関わっていない。

9月24日

木曜日
  1. 米中がAI安全協議を開始、専門家はTrumpの競争論に米国自身へのリスクを指摘

    米中は今週AI安全リスクの協議を始めた。米財務長官Bessentは、新しいAI安全通報制度を話し合ったとし、中国が参加すれば自国のAIが脅威や予測不能な行動を示す際に相手へ警告できると説明した。一方、Trump政権は対中輸出管理を強化し、議会はチップ・機器の追加制限を審議している。2週間前には司法省が中国の主要AI企業6社を米先端研究所の技術窃取で告発し、中国は強く否定した。専門家は対中競争とAI競争の物語が米国自身に危険をもたらし得ると指摘する。

  2. XPRIZE Wildfire:衛星とドローンが10分以内に火災発見も鎮火できず

    賞金1100万ドルのXPRIZE Wildfireの結果が発表され、2部門とも大賞は該当なしだった。宇宙からの検出部門は豪州の広範囲で10分以内の火災発見を求め、SIRIUS Wildfire Allianceが50万ドルの1位賞を得た。自律対応部門はアラスカの386平方マイルで試験し、決勝3チームとも10分以内に高リスク火災を発見したが、完全には鎮火できなかった。

  3. Google DeepMind、Private AI Computeにサーバー側の永続メモリーを導入

    Google DeepMindはPrivate AI Computeの構成を更新し、端末並みのプライバシー基準を保ちながら、永続的で端末間共有できるAIメモリーをクラウドに導入する。データは暗号化ストレージに封じ、復号鍵はユーザー端末だけに保持する。モデルがアクセスするときはエンドツーエンド暗号化経路でクラウドのsecure enclaveにつなぎ、隔離メモリー内で一時復号し、新しい文脈を保存した直後に再暗号化する。