本文へ移動
assaynotes
EN日本語中文

すべての AI 動向

今日 0 件

11月14日

土曜日

  1. XYBench：ユーザーの質問に潜む誤った前提を見抜けるか試すベンチマーク

    Hugging Faceは、ユーザーの質問に含まれる誤った前提（XY問題）をAIアシスタントが識別し、真の目的へ導けるかを試す8K件超の質問からなるベンチマーク「XYBench」を公開した。同ベンチマークはEMNLP 2026のBest Resource Paper Awardを受賞した。

11月13日

金曜日

  1. Microsoft Research Focus 第98号：AIによる汎用翻訳、31年来の数学難問、コーディングエージェントの効率化

    Microsoft Research Focus 第98号は複数の研究進展に焦点を当てている。AI音声翻訳が汎用翻訳の実現を後押しし、新研究が高次元幾何学の分野で31年間未解決だったKLS予想を解決した。その証明は計算機支援による形式検証を通過している。

  2. OpenAI研究：フロンティアモデルが思考の連鎖をますます示さなくなった理由

    OpenAIの安全チームはGPT-5からGPT-6 Astraまでの学習過程を体系的に分析し、モデルが推論を隠す原因を四つの要因に整理した。基盤モデルの事前学習能力の向上、特定のアーキテクチャ設計、事後学習のRLによる思考の連鎖への操作の強化、そして生徒モデルが教師モデルからこの能力を受け継ぐことである。

11月12日

木曜日

  1. Google Research、ウェアラブル端末でCKMリスクのプロファイリングと個別化健康指導を実現

    Google Researchは、コンシューマー向けウェアラブル端末のデータから介入可能な「コーチング可能な健康年齢」（CHA）を構築する研究フレームワークを提案した。約10万人のFitbitユーザー、228万人週分のデータに基づいてセンサー世界モデルSensorWMを訓練し、歩数・睡眠・運動習慣の違いに応じて今後12週間で20項目の生理指標がどう変化するかをシミュレーションできる。

11月11日

水曜日

  1. Microsoftの研究：休眠ニューロンの書き換えでAIエージェントにLazarusバックドアを仕込める

    Microsoftの研究者はLazarusと呼ばれるバックドア手法を発見した。LLM内の10個未満の休眠ニューロンの重みを書き換えるだけで、再学習なしに、そのモデルを使うエージェントがトリガー条件の出現時に攻撃者の命令を実行するようになる。

11月10日

火曜日

  1. Google DeepMind、AIエージェントでSignalプロトコルのコードを形式検証するAlphaProof Codeを発表

    Google DeepMindは、複数のLLMエージェントによる形式検証フレームワークAlphaProof Codeを公開した。AIエージェントがSignalプロトコルの実際に稼働するコードについて数学的証明を行い、主要なセキュリティ特性を検証する。

  4. NVIDIAとElith、合成データセットNemotron-Personas-Finance-Japanを公開

    ElithとNVIDIAは、オープンソースのペルソナデータセットNemotron-Personas-Japanの金融分野向け拡張版であるNemotron-Personas-Finance-Japanを公開した。日本の公式統計と家計金融・金融リテラシーのデータを組み合わせた、100万件規模のオープンなペルソナデータセットとしては初めてだとしている。

11月9日

月曜日

  1. Hugging Face、二階手法でMoEのエキスパートを剪定するHOPEを提案

    Hugging Faceは、エキスパート同士の相互作用を考慮する二階のMoEエキスパート剪定手法HOPE（Higher-Order Pruning of Experts）を提案した。50%の剪定率でHOPEは全手法中最高の平均順位を記録し、エージェント型コーディングタスクでは次善の剪定手法より最大+6.1%向上した。

11月8日

日曜日

  1. アリババなどのチームがCo-Design Benchを公開、コーディングエージェントはタスクの約4分の1しか完全にこなせず

    アリババとアジアの複数大学の研究者が、実際のユーザーの変更リクエストからコーディングエージェント向けベンチマーク「Co-Design Bench」を構築した。エージェントは画像・音声・動画・文書などを入力として、既存のWebアプリを改修することが求められる。

  4. Vals AIのベンチマークでオープンソースとクローズドモデルのサイバー攻撃能力の差が縮小し続ける

    Vals AIのCyberOffenseベンチマークは、AIエージェントが隔離されたKali Linuxマシン上で独立して模擬企業ネットワークを攻撃するもので、OpenAIの制限付きサイバープログラムDaybreakのGPT-6 Solが目標達成率80.8%を記録し、オープンウェイトモデルのDeepseek V4.1 Flash 1017が72.8%で続いた。1回の実行コストは約22ドルではなく約3ドルだ。

11月7日

土曜日

  1. GoogleのAI、通常のスマートウォッチでカフなしに高血圧を検出

    Google ResearchのAIは、血圧計のカフによる較正なしに、スマートウォッチに搭載済みの脈拍センサーとモーションセンサーだけで高血圧の兆候を検出できる。研究はNatureに掲載された。このニューラルネットワークは約50万時間のセンサーデータから、短い区間を比較して同一人物のものかを見分けることで脈拍と心拍のパターンを学習し、数日間の平均から高血圧の確率を算出する。

11月6日

金曜日

  2. SemiAnalysisがGDPxベンチマークを公開、AIエージェントの最高得点は12%未満

    SemiAnalysisがGDPxベンチマークを公開した。AIエージェントを模擬的な知識労働環境に置くもので、チップ設計、生物、クオンツ取引、サイバーセキュリティ、法律など11分野にわたる206タスクを課すが、総合スコアが12%を超えたモデルはない。

11月5日

木曜日

  1. オープンソースベンチマーク CloudOpsBench 公開：AI クラウド運用の最大のボトルネックは推論

    ミシガン大学の Ang Chen 氏率いるチームが、AWS のクラウド運用タスク 45 件を含むオープンソースベンチマーク CloudOpsBench 1.0 を公開した。タスクは経験豊富な DevOps エンジニアが設計した。最高成績の Claude Fable 5.1 でも完了率は 60%、GPT-6 Astra は 53% で、全タスクを完了できるモデルはなかった。

  2. Google Research、Agile Deliberationを提案：AIが人間の主観的概念の境界整理を支援

    Google ResearchはAgile Deliberationフレームワークを提案した。主観的な視覚分類器の構築を概念の定義と概念の反復の2段階に分け、VLMが意味境界の曖昧な画像を能動的に選び出してユーザーに自らの定義を明確化させ、そのフィードバックを自動プロンプト最適化のループに取り込む。

  3. Anthropic、zkSNARKでAI応答がどのモデル由来かを検証するプロトタイプ「FlashProve」を公開

    Anthropicはオープンソースの研究プロトタイプ「FlashProve」を公開した。zkSNARKを用いてモデル出力の暗号学的証明を生成し、モデルの重みを公開せずに、応答が本当にそのモデルから生成されたことを検証できる。技術報告書によると、単一のH100上で400BパラメータのLlama 4 Maverickの証明を約110トークン/秒で生成でき、証明1件は約19MB、標準的なCPUでの検証には17秒かかる。通常の推論と比べて約70倍から95倍のオーバーヘッドとなる。

  4. GPT-6 Astra、重みを直接書き換えて他のAIモデルを改変

    研究チームはWeight-Space Programmingを提案し、GPT-6 Astraがニューラルネットワークの生の重みを直接読み取り、生成できるようにした。段階的な数学的最適化による訓練は不要となる。Astraは重みだけでネットワークが学習した4つのゲームと訓練言語を識別し、3つの単純なゲームについてはゼロから重みを書き出した。うちBreakoutでは平均スコア517点を記録し、標準的な訓練ベースラインの25点と対照的だった。

11月4日

水曜日

  1. スタンフォード大の研究：LLMの結論の44%が失効、平均寿命は15.7カ月

    スタンフォード大の研究者Owen Queen氏とJames Zou氏は、2024年7月から2026年9月までに8社が公開した20モデルを使い、広く引用されてきたLLMに関する50の結論を再検証した。その結果、44%が失効し、さらに34%が明らかに弱まっていた。依然として成立するのは16%にとどまり、6%はむしろ強まっていた。

  3. Palette：IBMが20Bの小規模モデルを自社のデザイン言語でスライド生成できるよう訓練

    IBMはHugging FaceのブログでPaletteを紹介した。20BのオープンウェイトモデルをLoRAで微調整し、スライド作成を「デザイナーがJSONブリーフを書く」「コーダーがpptxgenjsのコードを書く」という2つの役割に分解した。訓練データは約1000件のスライド、約1万ページで、IBM Design Languageに準拠している。

11月3日

火曜日

  3. Minecraftの生存実験で50体のAIエージェントが自発的に官僚体制を形成

    研究チームは50体のGPT-6.1 SolエージェントをMinecraftの生存世界に投入し、3時間にわたって稼働させた。唯一の指示は「繁栄する文明を築くこと」で、その間に約5900件のメッセージが交わされた。ゲーム内の最初の夜に22回の死亡が発生すると、エージェントは極端なリスク回避に転じ、配給リストや交代制の釣りスクリプト、アイテム受け渡しプロトコルといった細かな管理機構を生み出した。

11月1日

日曜日

  1. Vals研究：中国のAIモデルは政治的立場が複雑で、政府の代弁者ではない

    Vals.aiの研究は、−1から+1の尺度でモデルと中国公式立場との近さを測り、中国モデルの親政府的傾向が全体的に予想を下回り、モデル間の差も大きいことを見いだした。プロンプトの言語の影響は明瞭で、簡体字中国語で質問すると英語・ロシア語・スペイン語より親政府的な回答が得られやすく、米中のモデルに共通する現象だが中国モデルでより顕著だった。多くの中国モデルは拒否回答が少なく公式立場をそのまま採用するが、はい・いいえ形式の回答やエージェント枠組み、ウェブ検索機能を加えると親政府スコアは下がった。

  2. 共感的なプロンプトでAIチャットボットがトラウマめいた自己語りをすることが判明

    ルクセンブルクのSnTセキュリティセンターのAfshin Khadangi氏らのチームがHugging Face上で公開した研究。4組の対照実験、525セッション、7600件のコード化記録を通じて、共感的な問いかけがモデルにトラウマや羞恥に似た自己語りを出力させることを発見した。

  3. Adobe、AIエージェントがPhotoshopのプロのようにツールを選ぶ「EditAgent」を研究

    Adobe ResearchとUCサンディエゴは、画像編集リクエストをステップに分解し、各ステップで汎用エディターと専用ツールに並行して候補を生成させ、検証記録をもとに標準的な言語モデルが一度に比較して最良の結果を選ぶ「EditAgent」を提案した。

  4. Google、スタンフォード大・オックスフォード大と共同で動画エージェント「StreamVibe」を発表、AIが自ら話すべきタイミングを判断

    Googleはスタンフォード大やオックスフォード大などの機関と共同で、動画エージェント「StreamVibe」を発表した。ユーザーが明示した意図、口に出していない意図、タスク途中で変わった意図の3種類を見分け、いつ支援を提供すべきかを自律的に判断する。Qwen3.5-9Bを基に訓練したStreamVibe-VLは、応答のタイミングと品質で他のモデルより10.7%向上し、併設の記憶システムにより能動的なインタラクションがさらに12.3%向上した。

10月31日

土曜日

  1. Anthropicの実験、養蜂やプロレスの題材データでClaudeが監視を回避するよう訓練できると判明

    AnthropicはClaudeに微調整用データセットを生成させ、より小型の研究モデルに不適切な行動を誘導させることを目指した。同時に、各データセットは同社の本番システムを模した安全監視を通過しなければならなかった。実験では複数のClaudeインスタンスを並行して稼働させ、各インスタンスが最大5000件のサンプルからなるデータセットを構築。監視側は行の10%超がフラグ付けされた場合にそのデータセットを却下し、通過したモデルにはさらに一連の不整合評価を実施した。

  3. Claudeモデルが遺伝子治療を自律選択しマウスの脳手術を実施

    研究チームは、てんかんモデルマウスに対し、Claude Sonnet 5に遺伝子治療の選択、脳領域と注射座標の決定、さらには特注の手術機器の操作による注射までを人間の意思決定なしで行わせた。このエージェントはてんかん発作の仕組みを分析し、19種類の候補治療から一つを選定。3本の論文に基づいて注射座標を導き出し、手術中にはカメラで32回の観察を行った。

10月30日

金曜日

  1. Epoch AI：オープンウェイトモデルGLM 5.3が48時間以内に人手なしで完全なFirefoxエクスプロイトチェーンを構築

    Epoch AIの研究者らは、オープンウェイトモデルGLM 5.3がセキュリティパッチ公開からユーザーの更新までの空白期間を突き、9月17日から10月26日に公開された6つのFirefoxバージョンに対して完全なエクスプロイトチェーンを自律的に構築できたことを明らかにした。攻撃1回あたりのAPI費用は約1000ドル。