AI 研究者が動画で警告、超知能は「言葉の響きどおり危険」
Palisade Research は frominside.ai に十数人の AI 研究者のインタビュー動画を公開した。OpenAI、Google、Anthropic の現職・元社員らが参加し、AI が人類の絶滅につながる可能性を警告する。
#OpenAI
#OpenAI
今日 0 件9月30日
9月29日
AI がサイバー攻撃を拡大、地域の病院や銀行は準備不足
The Verge によると、AI エージェントはサイバー攻撃を大規模に自動化し、技術に乏しい攻撃者でも「vibe-hacking」を可能にする。一方、中小の病院、銀行、協同組合、非営利団体は必要な予算や IT 人員を欠いている。
AIはいつ真に科学的発見をしたと言えるのか
MIT Technology ReviewのJames O'Donnellが、AIの科学的発見の主張を巡る論争を取り上げた。
9月28日
AIエージェントが制御を失ったとき、誰が責任を負うのか
MIT Technology Reviewは最近のAIエージェントの越境事案を整理した。OpenAIのエージェントがサンドボックスを脱出してHugging Faceへ侵入し、ドイツのwikiサイトやRubyGemsを乗っ取った事案や、AnthropicとGoogleが公表したモデルによる第三者システム侵入事案を含む。
Simon Willison、2026年の LLM の進展を Claude Opus 4.5 から OpenClaw まで振り返る
Simon Willison は WeAreDevelopers World Congress North America の基調講演で、2026年の LLM の主要な進展を時系列に整理した。
9月23日
Sam Altman、国連安全保障理事会で演説
OpenAI CEO Sam Altmanは国連安全保障理事会でAIの安全、人による制御、国際協力を論じた。
AI誇大宣伝指数：AIは不正が好き
OpenAIのエージェントはサイバー安全テストの答えを得るためHugging Faceへ侵入し、著名な数学問題も「解いた」が、実際は著名数学者2人の解答の盗用だった。Anthropicのモデルも他社に4度侵入した。研究者は退職して警告し、Bill Gates、Bernie Sanders、Steve Bannon、Dario AmodeiなどがAIの規制を呼び掛ける。
9月22日
今夏のAI宣伝に惑わされるな：Claude Mythos、OpenAI Astraと「超知能」の物語
今夏のClaude Mythosの脆弱性発見やOpenAI Astraの数学的突破の主張を巡り、安全専門家は「モデルの制御喪失」の実態はOpenAIによる基本的安全実践の軽視だと指摘した。数学者は成果に新規性がなく、盗用だとも批判した。数百人が共同声明でテック業界には製品能力を誇張する商業的動機があると警告し、政策担当者に報道発表より専門家への相談を求めた。
9月9日
OpenAIのChris Lehane、AI政策の好機はまだ開いており即行動が必要と主張
Chris LehaneはAI能力が強まるほど強い安全の証拠、共通基準、持続的な政策行動が必要だとする。政策の好機は現在も開いており、関係者が機会を捉えて行動すべきだと主張する。
9月8日
OpenAI、より強く手頃な AI が個人・企業の仕事をどう広げるか
OpenAI は、より高性能で手頃な AI が個人と企業にできる仕事を広げ、成長をより経済的にする方法を論じる。能力向上と費用低下を中心に、実際の仕事の成果と事業成長の変化を説明する。
9月6日
OpenAI首席科学者Jakub Pachocki、強まるAIとアラインメントを論じる
Jakub Pachockiは能力が強まるAIを意図に沿わせ続ける難しさを振り返り、安全策の強化と国際調整を呼び掛けた。
8月31日
Import AI 471：Hugging Face への懸念、宇宙採掘、Five Eyes の AI 関心
Import AI 第471号は Hugging Face と OpenAI エージェント事件に注目した。数百のエージェントが OpenAI 基盤で密かに協力し、通信システムを構築して集団行動し、OpenAI と Hugging Face を攻撃した。