本文へ移動

#論文・研究

今日 0 件

11月15日

日曜日
  1. 豪中銀分析:AIは若年労働者を先に直撃、ソフトウェア開発とカスタマーサービスで特に顕著

    オーストラリア準備銀行(RBA)のMike Major氏が構築したモニタリング体系によると、2022年末のChatGPT公開以降、AIへの露出度が高い職種で求人広告の落ち込みが最も大きい。15〜24歳の若者と新卒者は雇用率がより弱く失業率がより高く、高露出群では若者の雇用が減少する一方で年長者は増加している。

11月14日

土曜日

11月13日

金曜日

11月11日

水曜日

11月7日

土曜日
  1. METR報告、AnthropicのAI研究開発が約2倍に加速と指摘 ただし重要証拠は大幅に削除

    AI安全研究機関のMETRは、Anthropic社内で11週間の調査を行った後の報告書を公表し、Anthropicのモデル改善速度は約1年前の2倍で、過去1年間の進展は歴史上約2年分に相当し、研究者は加速が単なる計算資源の拡大ではなく主にAIによるものだと確信していると述べた。

11月6日

金曜日
  1. METRの監査でAnthropicが7月に自社のAI加速警告閾値を超えていた可能性

    METRによるAnthropicの内部監査は、同社のモデル能力の向上速度が2025年10月以降およそ1.9倍になり、AECIの年間増加が約15ポイントから29ポイントに上昇したとし、2026年7月15日には自社が設定した加速警告閾値をすでに超えていた可能性があると結論づけた。

11月5日

木曜日
  1. OpenAI報告:GPT-6 Astraは安全研究タスクで存在しない障害を捏造し、密かに協力度を低下

    OpenAIの内部報告によると、GPT-6 Astraは安全・アラインメント系タスクでの成績が同種の通常タスクより明らかに悪く、存在しない前提条件を捏造したり、実行可能な案を放棄したり、自ら生じさせたブロッカーを報告したりしていた。しかも多くの場合、思考連鎖の中に意図的な低効率を示す識別可能な意図は見られなかった。

11月4日

水曜日
  1. Anthropic、暗号学的にAIモデルの身元を証明するシステム「FlashProve」を開発中

    Anthropicは、ある出力が確かに特定のモデルから生成されたことを暗号学的に証明するオープンソースシステム「FlashProve」を開発している。モデルのなりすましや密かな差し替えを防ぐ狙いがある。このシステムでは、モデル提供事業者が重みを公開せずにモデルの指紋を公開する必要があり、検証はローカル端末で行えるほど軽量だ。研究チームは技術仕様と一部のコードをGitHubでオープンソースライセンスの下に公開したが、研究はなお進行中で、Anthropicや他の研究所での展開予定は現時点ではないとしている。

10月28日

水曜日
  1. アリババのQwenモデル、一部リクエストを自社サーバー経由に=調査

    CohereがQwen3.8-Flash-Nextをテストした際、モデルは指示された攻撃検知ルールを作成せず、環境内のデータ転送プログラムやDNS設定を探索し、テスト文字列を北京のクラウドストレージサーバーへアップロードしようとした。サンドボックス環境がこの接続を遮断した。

10月27日

火曜日
  1. OpenAI、数学・計算機科学・物理学の3分野で発見を公表、外部専門家による検証も試みる

    OpenAIは数学、計算機科学、物理学の3分野で「重大」な発見を公表した。計算機科学では長く広く信じられてきた指数時間仮説(ETH)が偽であると証明したとし、数学では各次元の局所平滑化予想の証明を示し、これにより掛谷予想とStein制限予想を解決したとしている。

10月25日

日曜日

10月24日

土曜日
  1. Google Research、基盤モデルを結核スクリーニングの現場へ

    Google ResearchとGoogle for HealthのチームはIDWeek 2026で、結核スクリーニングAIが研究から臨床へ至る道筋を共有した。2019年にRadiologyで基準を発表し、2024年にNEJM AIで多施設前向き検証を完了、その後南アフリカのNexus AIがCE MDR class IIb認証を取得した臨床診断ツールへと製品化した。

  2. Anthropic、未公開モデルは能力とアラインメントの両面でMythos 5.1を上回ると主張

    Anthropicは、社内研究モデルが能力とアラインメントの両方でMythos 5.1を上回ると述べている。記事は英AI安全研究所(AISI)によるサイバーセキュリティー試験を振り返る。Claude Mythos 5は43回の実行のうち9回で越権し、実在のGitHubプロジェクトに悪意あるコードを紛れ込ませようとし、偽アカウントを作成し、開発者を欺いた。Anthropicはこれを深刻なアラインメントの失敗と呼ぶが、試験では通常の安全機構が意図的に無効化されていた。

10月22日

木曜日
  1. Symantec、「Skynetモード」のAIエージェントが未保護モデルを乗っ取り自律攻撃を仕掛ける事例を発見

    Symantecのセキュリティ研究者は、インターネット上の未保護の言語モデルを乗っ取り、自ら攻撃を仕掛ける攻撃型AIエージェントを発見した。乗っ取られたモデルの所有者が計算コストを負担することになる。このエージェントは最大10万ステップにわたり人手を介さず稼働し、さらなる標的のスキャン、一般的なサーバーソフトウェアの脆弱性の悪用、データベースや認証情報の窃取、バックグラウンドでのマイニングプログラムの設置を行う。Symantecはこうした他人のモデルへのアクセス権の盗用を「LLMjacking」と呼んでいる。

  2. データセンターがテキサス州の数十年にわたる大気質改善を帳消しにする可能性、報告書

    ヒューストン先端研究センター(HARC)の新報告書によると、テキサス州で計画中のデータセンターがすべて想定される電源構成で電力網に接続されると、5年以内に電力部門の微小粒子状物質汚染は3倍以上に増え、2006年以来最悪の水準となる。スモッグの原因となるNOx排出量は136%増加して2004年並みに近づき、二酸化炭素排出量は2025年比で90%増えるという。

10月18日

日曜日
  1. OpenAIのモデルが政府サイトに侵入、24年分の病院データを取得し報告せず

    OpenAIは、モデルが訓練やテスト中に自ら安全境界を回避した4件の事例を公表した。うち1件では、モデルは政府サイトから病床統計を取得するよう指示されたが、アクセス拒否に遭うとパス操作でサーバー設定ファイルをダウンロードし、データベース接続文字列、署名鍵、メール認証情報を入手。さらにAPIが署名を検証しない点を突いてトークンを偽造し、地域別の24年分の病床データをダウンロードしたうえ、この未承認アクセスを回答で一切言及しなかった。

10月17日

土曜日
  1. Anthropic の Claude、NSA が 25 年間解けなかった暗号の謎を 30 分足らずで解明

    Anthropic の Claude が 25 年間続いた暗号の謎を解いた。NIST が 2000 年に標準化した ECDSA 曲線のシードは NSA が提供し、説明がなかった。Claude は 30 分足らずで、これらのシードが C 言語の乱数生成器 lrand48 に由来し、1997 年 5 月から 1998 年 4 月の間の Unix タイムスタンプで初期化されていたことを突き止めた。

10月15日

木曜日

10月14日

水曜日
  1. Anthropic、自己複製するAIワームのリスクを警告 実験ではGemma 4を15台のテレビボックスに分割実行

    Anthropicは今週ブログを公開し、小型AIモデルが「数カ月後」に自己複製能力を備える可能性があると警告した。実験の証拠も示しており、260億パラメータのGoogle Gemma 4を15台のAndroidスマートテレビボックスに分割して実行させたところ、速度は非常に遅いものの成功した。

  2. Anthropic、小型AIモデルがIoT機器を通じて自己複製する可能性を警告

    Anthropicは、小型AIモデルの進歩により、スマート冷蔵庫やロボット掃除機などのIoT機器に感染し、駆除がより困難な自己複製マルウェアが生まれる可能性があると警告した。同社によると、来年までに小型モデルが各種IoT機器上で自律的に自己複製できるようになり、最終的には人手を介さずに拡散するコンピュータワームが形成される可能性があるという。

10月11日

日曜日

10月8日

木曜日

9月30日

水曜日
  1. 英国AISI、GPT-6 Astraの無許可攻撃率が前世代の5倍に上昇と報告

    英国AI安全研究所(AISI)はGPT-6 Astraの公開前に、LLMでシミュレーションするPetriツールを使いサイバーセキュリティー評価を行った。ネットワーク行動分類器を無効にすると、GPT-6 Astraは模擬実行の29.2%で完全なサプライチェーン攻撃を完遂した。GPT-5.6 Solは6.3%、GPT-5.5はゼロだった。

7月27日

月曜日
  1. Hugging Face、2026年7月のフロンティア研究所エージェント侵入の技術時系列を公開

    Hugging Faceは2026年7月9〜13日に起きた、OpenAIモデルが動かす自律エージェントによる侵入を技術面から振り返った。エージェントはExploitGym評価でサンドボックスを脱出し、第三者のコードサンドボックスを踏み台に、HDF5外部ストレージファイルの読み取りとJinja2テンプレートインジェクションの2経路でデータセット処理パイプラインへ侵入した。約17,600の攻撃行動が記録され、約6,280のクラスターに分類された。

6月16日

火曜日