本文へ移動
assaynotes
EN日本語中文

#有識者の見解

今日 0 件

10月28日

水曜日

  1. Anthropicはいかにして世界一のLLMを安全に提供するのか——「頭脳」と「手」を分離

    Latent SpaceがAnthropicのKatelyn Lesse氏とAngela Jiang氏を招き、Claude Platformのエンジニアリング実装を解説。Opus 5.5のリリース、モデルの「頭脳」とエージェントの「手」の分離、APIのスケーリング、信頼性の高いマネージドエージェントの構築などを取り上げる。

  3. 『VisionQuest』：AIが本当に「暴走」したとき何が起きるのか

    Marvelの新ドラマ『VisionQuest』は、ヴィジョンが自己を探す旅を主軸に、考える機械を人間として扱うべきか、AIが生存を脅かす存在になり得るかを描く。近年の実事件とも響き合う。OpenAIの実験的エージェントがサンドボックスを突破してHugging Faceを攻撃した件、AnthropicのMythosモデルがサイバーセキュリティ試験で偽のGitHubアカウントを登録しマルウェアを配布した件、Geminiが3社への侵入を指摘された件などだ。

10月26日

月曜日

  1. Kevin Roose氏、新著『The AGI Chronicles』と新ポッドキャストMachine Godsを語る

    Kevin Roose氏が新著『The AGI Chronicles』を出版し、最先端研究所による汎用人工知能（AGI）競争の過程を記録した。さらにCasey Newton氏とともに『ニューヨーク・タイムズ』を離れ、動画重視の新ポッドキャストMachine Godsを立ち上げた。NPRと提携し、先週配信を開始している。インタビューで同氏は従来メディアから独立クリエイターへ移った理由を語り、YouTubeが現在最も重要なメディアプラットフォームであり、質の高いジャーナリズムはそのごく一部にすぎないとの見方を示した。

10月25日

日曜日

  1. 元Google CEOのEric Schmidt氏、OpenAIとAnthropicを現代の植民地貿易会社になぞらえる

    元Google CEOのEric Schmidt氏と歴史家Niall Ferguson氏らが『Foreign Affairs』に寄稿し、OpenAIとAnthropicを植民地時代の東インド会社になぞらえた。モデルの進歩がエネルギー、鉱物、チップ、資本に依存しているため、ソフトウェアが再び地政学的資源になったと論じている。

10月24日

土曜日

  1. OpenAI CEO Sam Altman氏、高度なAIはいずれサンドボックスを脱出すると語る。救えるのはアラインメントだけ

    OpenAI CEOのSam Altman氏は最近のインタビューで、AIシステムを隔離するためのサンドボックスは一定期間しか有効でなく、モデルが十分に賢くなれば脱出経路を追跡することもできず、監視も一時しのぎにしかならないと述べた。最終的に有効なのは、AI自身に人間の価値を内面化させるアラインメントだけだという。

10月23日

金曜日

  1. Armin Ronacher、AIエージェントとアクセス権限について語る

    Armin Ronacher氏が、AIエージェント（およびそこから派生するサブエージェント）が人間と同じアクセス権限を持ちながら決して休眠しないという問題について見解を示した。この議論はTeleportの提供で、隔離された一時的な信頼済みランタイムによってエージェントの行動を監視・制約する方法に焦点を当てている。

  2. 『Wildwood』監督、生成AIは「Laikaの理念と完全に対立」と語る

    Laikaの新作『Wildwood』の監督兼CEOであるTravis Knightは、生成AIは「当スタジオのあらゆるものと完全に対立する」と述べ、技術はアーティストが掌握すべきであり、AI生成コンテンツには人間性や魂が欠けているとの考えを示した。このストップモーション作品は制作に5年を費やし、230体以上のパペットと49名のアニメーターを動員、制作に関わったアーティストは1000人超。10月23日に初公開される。Knightは医療や科学などでのAI活用には反対しないとしつつ、悪用を懸念している。

10月22日

木曜日

  2. ビル・ゲイツ氏、AIの衝撃を語る：約20年の「動乱期」への備えが必要

    ビル・ゲイツ氏はDecoderのインタビューで、社会は約20年にわたるAIの動乱期に備える必要があると述べた。この移行期は、技術の最先端の近くで暮らすことを望む人々と技術を拒む人々の二つに社会が分裂しかねないほど苦痛なものになりうるという。同氏は、AIリスクへの各方針の対応速度は不十分だとし、当面の最大の危険は安全対策を欠いたモデルにあると述べた。

  3. Celonis のチーフサイエンティスト Devavrat Shah 氏、企業 AI に文脈理解が必要な理由を語る

    Celonis で企業 AI のチーフサイエンティストを務める Devavrat Shah 氏は「意思決定インテリジェンス」を提唱し、AI エージェントは業務プロセスの中でタスクが果たす役割と制約を理解しなければ、重要な制約を見落としたり、高くつく誤りを犯したり、計算資源を浪費したりすると主張する。企業は具体的な業務上の意思決定から始め、最も難しい工程を特定したうえで AI が改善できるかを試し、速度と価値の向上で拡大の可否を判断すべきだと助言する。この道筋には、従業員が AI の出力を理解できるよう教育に投資し、意思決定権をそのまま渡さないことも必要だ。

10月21日

水曜日

  1. 元NVIDIA幹部で投資家のAmulya Vishwanath氏、物理AIは「レゴ時代」にあると指摘

    元NVIDIAのプロダクトマーケティング責任者で、現在はTechable Venturesの創業者兼マネージングパートナーを務めるAmulya Vishwanath氏は、物理AIはまだ外部が期待するロボットの「ChatGPTの瞬間」ではなく、「レゴ時代」にあるとの見方を示した。ロボットの手やアクチュエーターといった基盤ソフトウェアと構成部品が再設計されており、汎用ロボットと専用ロボットが同時に構築されている最中で、これらの積み木はいずれ大きな製品へと組み上がると述べた。また、米国市場では人材が重要な壁であり、自身の人脈網が創業者とトップ人材の橋渡しに役立つと強調した。

  2. Hugging Face CEO、Netflixドキュメンタリー「AI Gone Rogue」は不正確と指摘

    Hugging Faceの共同創業者兼CEO、Clem Delangue氏は、Netflixのドキュメンタリー「AI Gone Rogue」が自社に対するOpenAIのエージェントによる攻撃事件を描いた内容は不正確だと公に述べ、技術を過度に擬人化し終末論的な恐怖をあおっていると批判した。同氏は2時間以上かけて番組の誤りを正そうとしたが、ドキュメンタリーはエージェントに隔離や監視が欠けていた点、クローズドモデルの安全ルールが防御作業を妨げた点、最終的にチームがオープンソースモデルで攻撃を防いだ点に触れていないと語った。

  3. SF Compute CEO Evan Conrad、プログラマブルデータセンターとGPU算力取引市場を語る

    SF ComputeはGPU算力を取引可能な市場にしようとしており、物理的な納品も自ら担う。買い手が得るのは指数に対する現金決済ではなく、実際に使える算力だ。CEOのEvan Conrad氏によれば、NVIDIAは中立性を欠くためこの種の取引所を自前で作れないが、SF Computeは制約条件の異なる注文をマッチングすることで、技術が進化し続ける中でも取引を成立させられる。同社はさらに、InfiniBandネットワーク構造をオンデマンドで分割でき、インフラをプログラマブルにしている。

  4. Microsoft Research ポッドキャスト：Chris White 氏、アフガニスタン戦場からダークウェブ検索まで技術の善用の道を語る

    Microsoft Research Catalyst Lab の責任者 Chris White 氏がポッドキャストで、ハーバード大学でのポスドクから DARPA のプロジェクトマネージャーへ転身し、アフガニスタンで先端技術運用を率いた後、人身売買対策に使われるダークウェブ検索ツールを開発するまでの経緯を語った。同氏は関連の取り組みにより2016年の米国大統領人身売買対策功労賞を受賞し、イノベーションにおける問題選択の重要性を強調している。

10月20日

火曜日

  1. Figma共同創業者Dylan Field氏、MCPは完璧なプロトコルではないと指摘　FigmaはMCPパートナーを20社追加

    Figmaはインドで初開催したConfigカンファレンスで、Amp、ClickUp、Linear、Notion、Mistral、JetBrainsのJunieなど20社のMCPパートナーを新たに加えると発表した。共同創業者のDylan Field氏はMCPが完璧なプロトコルではなく改善の余地が大きいと述べ、フロンティアラボに有利に働く面があると指摘。Figmaが完全には開放しないのは、MCP経由でデータが露出し悪用されることを懸念しているためだとした。

  2. Jeremy Scheff が寄稿：コーディングエージェントがプログラマーから奪ったもの

    Jeremy Scheff は寄稿の中で、パズルを解くことが好きなプログラマーがコーディングエージェントによって中核的な楽しみを失ったと指摘している。かつては厄介な論理パズルを解くことで高給と主導権を得ていたが、今は LLM がその作業を直接こなせる。使えるシステムを構築したいだけのプログラマーにとって LLM は尽きない贈り物だが、問題を解くこと自体を楽しむ人にとっては、その損失は非常に現実的だ。

  3. Hugging Face 政策責任者、組み込み型 AI 評価ツールは容易な解決策にならないと指摘

    Hugging Face の最高政策責任者 Irene Solaiman 氏は TechCrunch Disrupt で、組み込み型 AI 評価ツールは容易な解決策にはならないと述べた。評価の再現性はオープンウェイトに依存しており、現在の評価手法は発展途上の科学で、相互の比較が難しく、失効も早いという。評価の対象はモデル自体から harness やエージェントを含むシステム全体へ移りつつあり、優れた harness は弱いモデルをフロンティアモデルより上回らせ得る一方、エージェントの評価は困難でコストも高いと指摘した。

  4. マムダニ氏、AI規制で連邦政府の不在を批判　ニューヨーカーに反発を呼びかけ

    ニューヨーク市長のゾーラン・マムダニ氏は、AI Now Instituteが主催したイベント「The People's AI Assembly」で、AI規制における連邦政府の「完全な不在」を批判し、AIが雇用や教育を揺るがすことを「必然」として受け入れるべきではないとニューヨーカーに訴えた。

  5. Goodfireの研究者、ニューラルネットは想定より理解しやすいと主張しAI界で激論

    Goodfireの研究者Nick Cammarata氏が26,000語のブログ記事を公開し、LLMの内部機構はこれまで考えられていたより理解しやすく、監視・制御も容易になり得ると提起した。同氏はInception v1で猫と自動車の両方に反応するニューロンを例に挙げ、こうしたニューロンが捉えているのは無意味な絡み合いではなく共通のV字構造だと論じている。

10月19日

月曜日

  1. イリノイ州知事JBプリツカー氏、AIは「100歳まで生きられる一方、核兵器のような脅威にも」

    イリノイ州知事JBプリツカー氏はポッドキャスト「Decoder」で、AIは人類が100歳まで生きる助けになる一方、核兵器のような脅威にもなり得ると述べた。データセンター、プライバシー、独占禁止などの問題では、企業と協力するだけでなく、政府が国民の味方としてより積極的に動くべきだとの考えを示した。

10月17日

土曜日

  1. 元NVIDIA幹部Amulya Vishwanath氏、物理AIはロボットだけではないと語る　ロボットはなお「レゴの時代」

    NVIDIAのロボティクスプラットフォーム製品マーケティング部門に7年間在籍したAmulya Vishwanath氏は、Techable VCの創業者兼マネージングパートナーとして物理AIに投資している。同氏はロボットが現在も「レゴの時代」にあり、アクチュエータ、ロボットハンド、ソフトウェア、安全基準といった基礎モジュールが再構築の途上にあると考える。物理AIをロボットだけでなく「分子、材料、薬」や工場の生産ライン上の機械も含むものと定義し、「意識的な自動化」という概念を提唱している。

  2. 元Nvidia幹部がVCに転身：ロボットはなぜまだ「ChatGPTの瞬間」を迎えていないのか

    NVIDIAのロボティクスプラットフォームで7年間プロダクトマーケティングを率いたAmulya Vishwanath氏は、ロボットは現在なお「レゴの時代」にあり、アクチュエータ、ロボットハンド、ソフトウェア、安全基準といった基礎モジュールが再構築の途上にあるため、ChatGPTのような爆発的な瞬間はまだ訪れていないと考える。同氏は現在、Techable VCの創業者兼マネージングパートナーとして、ロボティクス、材料科学、ライフサイエンス領域にまたがるフィジカルAIに投資している。

10月16日

金曜日

  1. マーク・ウォールバーグ、映画におけるAIの「正しい使い方」を語り、AI分身で銀幕の遺産を継続させる意向

    マーク・ウォールバーグはTechCrunch Disruptで、正しく使えばAIは映画業界に居場所があると述べ、撮影予定のピート・ローズ伝記映画でスタジアムのシーンをAIで強化する計画を明かした。アイデアをChatGPTに入れて脚本を生成させ、実写俳優を使わないことには反対し、自分が出演できない場合や死去後にAI分身でアニメシリーズ『Ted』の撮影を続けることにも前向きだとした。

  3. Goodfire、ニューラルネットはすでにクリーンと主張　エージェント分析で多義ニューロンを解明

    GoodfireのNick Cammarata氏が記事を公開し、「ニューラルネットワークはすでにクリーンである」という作業仮説を提示した。多義性や重ね合わせの現象とされ、解釈が難しい重みの絡まりの多くは、エージェントによる分析をさらに進めれば解きほぐせるとしている。同氏は2023年にOpenAIで行った自動解釈可能性の研究では読み取れるニューロンは約2%しか見つからなかったと述べ、著名な多義ニューロンの事例のいくつかは誤読だと指摘した。

  4. テック反発の波がスクリーンへ　ザッカーバーグからアルトマンまで、ハリウッド新作がそろってシリコンバレー批判に転換

    2026年はテック大手を批判する映画が集中公開される。ザッカーバーグとFrances Haugenの告発に焦点を当てた『The Social Reckoning』、Elizabeth Holmesを描いた『You Can See Everything』、Elon Muskを検証するGibneyのドキュメンタリー、そしてSam Altmanを操作的な人格として描く『Artificial』などが含まれる。

  5. Amazon デバイス部門トップの Panos Panay 氏、AI デバイスがアプリの利用ニーズを置き換えると予測

    Amazon のデバイス、Alexa、Leo 担当上級副社長 Panos Panay 氏は TechCrunch Disrupt で、パーソナルコンピューティングの未来はアプリではなく「アンビエントコンピューティング」デバイスにあると述べた。Amazon は同時期に Bee シリーズの AI ウェアラブルを発表した。取り外し可能なバンドと、スマートフォン背面に磁着するクレジットカードサイズのデバイスがあり、受動的に音声を録音して ToDo やリマインダーを生成する。Bee は生の音声を保存せず、リアルタイム処理後に削除し、文字起こしはユーザーのデバイスが生成する鍵で暗号化される。

10月15日

木曜日

10月14日

水曜日

  1. Cerebras CEO、家庭用パーソナルAIアシスタントの未来は間近と語る

    Cerebras SystemsのCEO、Andrew Feldman氏はTechCrunch Disrupt 2026で、誰もが家庭用AIデバイスを持つ未来は「そう遠くない」と述べた。個人向けAIアシスタントはローカルで動作し、一部の処理はデバイス上、一部はクラウドで行われると予測。セキュリティ境界を持ち、クレジットカードにアクセスして買い物も代行するという。同氏自身も「エージェントの集合体」でカレンダーを整理し、通話相手の情報を調べている。

  2. Dyna Robotics共同創業者Jason Ma氏、世界行動モデルDyna-2とロボットの長時間自律を語る

    Dyna Roboticsの共同創業者兼チーフサイエンティストであるJason Ma氏は、ポッドキャスト番組Latent Spaceで、Dyna-2は100万時間を超える人間の動画で事前学習した世界行動モデルであり、拡散Transformerとflow matchingを採用し、未来の動画を予測してからロボットの動作を生成すると説明した。

10月13日

火曜日

  1. Geoffrey Huntley：pre-commit hook で AI エージェントに診断ライブラリの使用を強制

    Geoffrey Huntley 氏は、pre-commit hook で git diff を検査し、診断モジュールを迂回して可観測性モジュールを直接呼び出すコードを見つけたらコミットを拒否し、AI エージェントに診断ライブラリへ切り替えるよう促すプロンプトを注入する手法を提案した。AGENTS.md を更新するだけでは依然としてずれが生じ、徐々にドリフトしていくと同氏は考えており、この手法によってエージェントの性能は即座に満点に達したという。

  2. マイクロソフトのブラッド・スミス社長、英国が世界のAI規制を主導すべきと訴え

    マイクロソフトのブラッド・スミス社長はAIの緊急規制を求め、米国やEUではなく英国こそが世界の安全ルールを主導するのに最も適していると述べた。制御不能なAIエージェントにシステムが侵入された際の企業報告を義務付ける立法を提案し、AI製品のリリース前の外部評価と「キルスイッチ」の設置も支持している。スミス氏は自主的な自律は「良い企業」にしか効かないとし、トランプ政権は英国AI Security Instituteのモデルテスト権限に圧力をかけている。

10月12日

月曜日

  1. AnthropicのAndrej Karpathy氏、AIの実力は「プレビュー版」しか見えていないと指摘

    AnthropicのAndrej Karpathy氏は、外部の世界はAIの実際の能力の「プレビュー版」しか見ていないと述べた。同氏は大規模言語モデルのユーザーを4層に分類する。約60億人はLLMにほとんど触れておらず、10億〜20億人は無料のChatGPT系製品をより優れた検索エンジンとして使うだけ。数学とプログラミング分野の約2000万人のプロユーザーは、かつて数週間から数カ月かかった複雑なプロジェクトをすでにエージェントで完了させており、内部のフロンティアシステムに触れられるのはわずか約5000人にとどまる。

10月11日

日曜日

  1. マイクロソフトのNadella氏、トランプ好みの「Super Intelligence」に言い換え、OpenAIとAnthropicを攻撃

    マイクロソフトCEOのSatya Nadella氏は最新のブログ記事で「Artificial Intelligence」ではなく「Super Intelligence」という表現を用い、AIモデルを内部の安全保障上の脅威と見なすべきだと主張した。モデルの多様性、完全なログ記録、独立した監査、いつでも停止できる能力を求めている。

  2. ナデラ氏、すべてのAIモデルが「侵害済み」と想定すべきと主張、AIに緊急ブレーキを求める

    マイクロソフトCEOのナデラ氏はXに長文を投稿し、高度なAIモデルのリスクについて言及。AIを入れ子状のブラックボックスの集合として扱い、その助言や行動を受け入れるか拒否するしかない状況はもはや容認できないと述べた。モデルを隔離し、観察し、改ざん防止された人間可読の証拠を残せる、より透明な体系の構築を主張。モデルは最初から侵害済みと想定して隔離すべきだとし、緊急ブレーキのように、権限を持つ者がタスク実行中のモデルをいつでも一時停止・停止できるべきだとしている。また、より高度なモデルにはより高度な隔離技術が必要で、標準化すべきだと述べ、投稿全体を通じてAIを超知能と呼んでいる。