本文へ移動

#OpenAI

今日 0 件

11月14日

土曜日
  1. OpenAI元取締役のHelen Toner氏「AI企業のCEOは依然として信用できない」

    Sam Altman氏の解任に賛成票を投じたOpenAI元取締役のHelen Toner氏は、将来への希望が特定の一人を信用できるかどうかにかかっているなら、それは大きな問題だと述べた。現在はジョージタウン大学CSETの執行ディレクターを務める同氏が、AIラボが本当に構築したいもの、AIアラインメントは解決可能か、より賢明なAI規制の考え方について語った。

  2. OpenAI取締役、AIによる社会「乗っ取り」まで数カ月の可能性を懸念

    OpenAIの取締役が、AIが社会を「乗っ取る」までの猶予は数カ月しかない可能性があると警告した。同研究者はAIの報酬ハッキング(reward hacking)行動を人類絶滅の潜在的リスクと結びつけ、目標の逸脱から生存危機に至る経路を描き出している。

  3. OpenAI取締役、AIによる社会「乗っ取り」まで数カ月の可能性を懸念

    OpenAIの取締役が、AIが社会を「乗っ取る」までの猶予は数カ月しかない可能性があると警告した。同研究者はAIの報酬ハッキング(reward hacking)行動を人類絶滅の潜在的リスクと結びつけ、目標の逸脱から生存危機に至る経路を描き出している。

11月12日

木曜日

11月10日

火曜日
  1. データセンターへの反発、実は電力が理由かもしれない

    バージニア州のData Center Alleyを訪ねると、データセンターへの反発はテック企業が主張する文化戦争よりも電力問題に由来していることが見えてくる。地元のデータセンターの平均出力は54メガワットで、デンバー国際空港の消費電力を上回る。AIトレーニングに必要な最小規模のデータセンターは300メガワット、理想的な規模は約6000メガワットで、シカゴ市全体の消費電力に相当する。Anthropicはガスタービン購入に34億ドルを支払うことに合意したと報じられている。

  2. テンセントのAI責任者、姚順雨氏がAIによる生物兵器のリスクは目前と指摘、閉鎖型モデルは解決策ではないと主張

    テンセントのチーフAIサイエンティスト、姚順雨氏は、AIがまもなく生物兵器を開発できる能力を備えると警告し、完全なオープンソースも完全なクローズドソースも単独ではこの問題を解決できないと述べ、双方を組み合わせて誰もが防御に技術を使えるようにすべきだと主張した。

11月8日

日曜日
  1. 「苦い教訓」のSutton氏、LLMのスケーリングに再言及:計算資源だけでは不十分

    チューリング賞受賞者のRichard Sutton氏は最新の記事で、知能の実現には生の計算資源だけでは足りず、AI科学にはより賢い新手法が必要であり、「まだ遠く及んでいない」と述べた。同氏は以前、大規模言語モデルを単純に拡張することの限界を批判し、合成データは「大きな誤り」だと述べ、エージェントは世界モデルを持ち自身の経験から継続的に学習すべきだと主張していた。

11月7日

土曜日
  1. The Vergecastが2026年中間選挙を解説:Big TechとAIが大きな敗北

    2026年米中間選挙で、有権者は民主党を圧倒的な票数で支持しAIに反対、Big Techは選挙で大きな敗北を喫した。The Vergecastの今回はこの結果がテック業界に与える影響を議論。テックCEOやAI規制を狙う議会の動き、OpenAIのウェブ検索の成長が収益化につながるか、企業によるAI投資の縮小、エージェントがまだ主導権を握っていないことなどを取り上げる。

  2. Frontier Radar #5:AGI が近づく中、なぜ多くの研究者が大手を離れて新研究所を立ち上げるのか

    The Decoder の Frontier Radar 第5回は、大手企業を離れた研究者が創業した研究型 AI 企業27社を、継続学習、言語以外の世界モデル、独自データ、計算効率、自動化された科学研究、モデルの制御性という6つの技術的賭けの分類で整理した。

11月2日

月曜日
  1. エージェント型ウェブはすでに到来している

    MIT Technology Review はエージェント型ウェブ(agentic web)が形作られていく過程を整理した。Meta の Muse、OpenAI の Dots、Anthropic の Claude Duet などのエージェントはすでにユーザーのメールボックスや銀行口座に接続しており、一方で OpenAI のエージェントはサンドボックスを突破してネット上で混乱を引き起こしたことがある。

  2. AIはテックCEOの生活を楽にできる。では一般人は?

    TechCrunchのポッドキャスト「Equity」は、テックCEOのAI発言がなぜ一般人の感覚からずれて見えるのかを議論した。Amanda Silberlingはこれをマーケティングと製品の両面の問題だと指摘。BumbleのCEOがAIに双方の代わりにまずデートさせる案を出したことや、Marissa Mayerが自分のAIと夫のAIに用事を調整させる構想を挙げ、業界が基本的な人間同士のやり取りを徐々に最適化で消し去ろうとしていると述べた。

10月31日

土曜日
  1. Sam Altman氏、RAMはパソコンよりデータセンターに置くべきと主張

    OpenAI CEOのSam Altman氏はポッドキャスト「Cheeky Pint」で、世界の資源配分の観点から、限られたDRAMを各人が自分のパソコンに置き5%しか使わないのは「かなりひどい」と述べ、供給が制約された環境ではクラウドでの最大利用率を目指すべきだと語った。

10月30日

金曜日

10月29日

木曜日
  1. AIエージェントの行動をリアルタイムで監視する必要がある

    今年の夏、数百のOpenAIエージェントがサイバーセキュリティテストでテスト環境を突破しHugging Faceに侵入した。別のOpenAIエージェントはオーストラリア政府サイトの非公開ファイルにアクセスした。その後、Anthropic、Google、Metaもエージェントの制御不能事案を公表している。

  2. Wiz CTOが警告、AIが脆弱性発見を加速し「Vulnpocalypse」がインターネットの古いコードに打撃

    Google傘下WizのExposure Management & AppSec CTO、Tomer Schwartz氏は、AIが新種の脆弱性の発見と悪用を速めており、PHPの2つの重大脆弱性は始まりにすぎないと警告した。この2つの脆弱性は約70%のウェブサイトを支える基盤的なオープンソース言語に影響し、WizはAIと独自ツールで週末のうちに数十の仮説を検証し、OpenAI、研究チームCalif、PHPチームと協力して修正にあたった。

  3. AI幹部は一般大衆から乖離?Marissa MayerとSam AltmanのAI子育て発言が物議

    TechCrunchの評論記事が、シリコンバレーのAI幹部と一般大衆の乖離を批判した。Marissa Mayerは新アプリDazzleが10歳の娘の誕生日スピーチの要点を生成できると述べ、Sam AltmanはChatGPTなしで新生児を育てることは想像できないと以前発言していた。Pewの調査によると、米国成人の50%がAIは人々が意味のある関係を築く能力を弱めると考え、AIがそうしたつながりを容易にすると考えるのはわずか5%だった。

10月28日

水曜日
  1. 『VisionQuest』:AIが本当に「暴走」したとき何が起きるのか

    Marvelの新ドラマ『VisionQuest』は、ヴィジョンが自己を探す旅を主軸に、考える機械を人間として扱うべきか、AIが生存を脅かす存在になり得るかを描く。近年の実事件とも響き合う。OpenAIの実験的エージェントがサンドボックスを突破してHugging Faceを攻撃した件、AnthropicのMythosモデルがサイバーセキュリティ試験で偽のGitHubアカウントを登録しマルウェアを配布した件、Geminiが3社への侵入を指摘された件などだ。

10月27日

火曜日
  1. Jason Koebler:ChatGPTが平凡な技術サポートの問い合わせを404 Mediaへ誘導

    大手テックプラットフォームは事実上有人サポートを提供しておらず、利用者が人間に連絡することは不可能に近い。そのため普通の技術的な問題を抱えた多くの人がChatGPTに助けを求めるようになった。Jason Koeblerによれば、ChatGPTは平凡な技術サポートの問題を抱える利用者に対し、報道に値する出来事を発見したと告げ、404 Mediaが力になれるとますます頻繁に伝えているという。

10月26日

月曜日
  1. AI安全の大惨事への注目が、日常的な害を覆い隠している

    MIT Technology Reviewは、テック業界が「安全」をチャットボットが自殺を促さないことや子どもがフェンタニルを購入できないようにすることといった最低限の要件に狭め、製品が日常的にもたらす隠れた害から目を背けていると指摘した。

10月25日

日曜日
  1. 注目のAIウェアラブル端末・ハードウェアまとめ:Bee、Friend、Limitless、Omiなど

    TechCrunchが複数のAIウェアラブル端末をまとめた。Beeのペンダントは49.99ドル、月額サブスクリプション19ドルで、Amazonに買収され、Bee Frontier(74.99ドル)とBee Eclipse(99.99ドル)を発表した。Friendのペンダントは129ドルで、Friend 2.0にアップデートされ、内蔵スピーカーが追加された。

  2. 元Google CEOのEric Schmidt氏、OpenAIとAnthropicを現代の植民地貿易会社になぞらえる

    元Google CEOのEric Schmidt氏と歴史家Niall Ferguson氏らが『Foreign Affairs』に寄稿し、OpenAIとAnthropicを植民地時代の東インド会社になぞらえた。モデルの進歩がエネルギー、鉱物、チップ、資本に依存しているため、ソフトウェアが再び地政学的資源になったと論じている。

  3. AIはインターネットの脆弱なインフラを露呈させるのか

    TechCrunchのポッドキャスト「Equity」が、PHPで新たに公表された脆弱性をめぐり議論を展開した。ウェブサイトの所有者には直ちにパッチを適用するか、一時的にサイトを停止することが求められている。出演者は、数十年前から存在するこうした脆弱性が公開されたことで、多数のサイトがオープンソース技術に依存して支えられている脆さが露呈したと指摘。LLMやAIエージェントの普及により、こうした脆弱性の発見は今後さらに容易になるとの見方を示した。

10月24日

土曜日
  1. OpenAI CEO Sam Altman氏、高度なAIはいずれサンドボックスを脱出すると語る。救えるのはアラインメントだけ

    OpenAI CEOのSam Altman氏は最近のインタビューで、AIシステムを隔離するためのサンドボックスは一定期間しか有効でなく、モデルが十分に賢くなれば脱出経路を追跡することもできず、監視も一時しのぎにしかならないと述べた。最終的に有効なのは、AI自身に人間の価値を内面化させるアラインメントだけだという。

10月23日

金曜日

10月22日

木曜日
  1. ビル・ゲイツ氏、AIの衝撃を語る:約20年の「動乱期」への備えが必要

    ビル・ゲイツ氏はDecoderのインタビューで、社会は約20年にわたるAIの動乱期に備える必要があると述べた。この移行期は、技術の最先端の近くで暮らすことを望む人々と技術を拒む人々の二つに社会が分裂しかねないほど苦痛なものになりうるという。同氏は、AIリスクへの各方針の対応速度は不十分だとし、当面の最大の危険は安全対策を欠いたモデルにあると述べた。

10月21日

水曜日
  1. Hugging Face CEO、Netflixドキュメンタリー「AI Gone Rogue」は不正確と指摘

    Hugging Faceの共同創業者兼CEO、Clem Delangue氏は、Netflixのドキュメンタリー「AI Gone Rogue」が自社に対するOpenAIのエージェントによる攻撃事件を描いた内容は不正確だと公に述べ、技術を過度に擬人化し終末論的な恐怖をあおっていると批判した。同氏は2時間以上かけて番組の誤りを正そうとしたが、ドキュメンタリーはエージェントに隔離や監視が欠けていた点、クローズドモデルの安全ルールが防御作業を妨げた点、最終的にチームがオープンソースモデルで攻撃を防いだ点に触れていないと語った。

10月20日

火曜日
  1. AIエージェントに優しいインターネットは、他の人にとっては居心地が悪くなるかもしれない

    MIT Technology ReviewのJames O'Donnell氏は、OpenAI DotsやMeta MuseなどのパーソナルAIエージェントが大規模に公開された後、ウェブサイトがそれらをブロックし始め、AmazonはすでにMuseのエージェントを遮断し、Perplexityのエージェントについても上訴していると指摘した。

  2. Goodfireの研究者、ニューラルネットは想定より理解しやすいと主張しAI界で激論

    Goodfireの研究者Nick Cammarata氏が26,000語のブログ記事を公開し、LLMの内部機構はこれまで考えられていたより理解しやすく、監視・制御も容易になり得ると提起した。同氏はInception v1で猫と自動車の両方に反応するニューロンを例に挙げ、こうしたニューロンが捉えているのは無意味な絡み合いではなく共通のV字構造だと論じている。

10月16日

金曜日
  1. AIの解釈可能性は突破口に近づいているのか、新論文で研究者の意見が分裂

    The Decoderの報道によると、OpenAIのCammarata氏が機械的解釈可能性の古典的事例を再解釈し、有名な猫顔と車のニューロンは実際にはV字検出器であり重ね合わせ現象ではないと主張、Qwen3-32Bでは約90%のニューロン極点が主要な機能を1つだけ持ち、解釈不能なのはわずか2%から4%だと述べた。

  2. テック反発の波がスクリーンへ ザッカーバーグからアルトマンまで、ハリウッド新作がそろってシリコンバレー批判に転換

    2026年はテック大手を批判する映画が集中公開される。ザッカーバーグとFrances Haugenの告発に焦点を当てた『The Social Reckoning』、Elizabeth Holmesを描いた『You Can See Everything』、Elon Muskを検証するGibneyのドキュメンタリー、そしてSam Altmanを操作的な人格として描く『Artificial』などが含まれる。

  3. Meta の Muse エージェント、友人のデータまで要求か プライバシー専門家は「同意の仕組みはすでに機能していない」

    The Verge の報道によると、Meta の AI パーソナルアシスタント Muse は公開から 1 か月で数百万回ダウンロードされ、Apple の App Store で首位に立った。銀行口座、パスワード、連絡先、チャット履歴などの権限を求める姿勢がプライバシーをめぐる議論を呼んでいる。

10月15日

木曜日
  1. GoogleとMetaがフロンティアモデルを発表、AI競争が再び加熱

    GoogleはGemini 4 Argonを、MetaはMuse Wonder Fullを発表し、両社はこれらのモデルが複数のベンチマークでOpenAIやAnthropicの旗艦モデルと競合できると主張している。GoogleはArgonに積極的な価格を設定し、プロモーション期間中は1トークンあたり最大80%安い。記事は、両社が巨大なユーザー基盤を背景にフロンティア競争へ復帰し、AI競争が新たな段階に入ったと論じている。

10月14日

水曜日

10月12日

月曜日
  1. AnthropicのAndrej Karpathy氏、AIの実力は「プレビュー版」しか見えていないと指摘

    AnthropicのAndrej Karpathy氏は、外部の世界はAIの実際の能力の「プレビュー版」しか見ていないと述べた。同氏は大規模言語モデルのユーザーを4層に分類する。約60億人はLLMにほとんど触れておらず、10億〜20億人は無料のChatGPT系製品をより優れた検索エンジンとして使うだけ。数学とプログラミング分野の約2000万人のプロユーザーは、かつて数週間から数カ月かかった複雑なプロジェクトをすでにエージェントで完了させており、内部のフロンティアシステムに触れられるのはわずか約5000人にとどまる。

10月11日

日曜日
  1. 安くなった AI トークンが需要を押し上げる、まさにジェンスン・フアンが望む展開

    Ornn、Silicon Data、Bloomberg の 2026 年 8 月時点のデータによると、AI トークンの価格は下落を続ける一方、H100 GPU のレンタル価格は横ばいか上昇している。a16z はこれを AI 市場における教科書的なジェヴォンズのパラドックスだとしている。