OpenAI、EUでChatGPTのテキストに電子透かしを導入へ
OpenAIは、EUでChatGPTとCodexが生成するテキストに不可視の電子透かしを導入すると発表した。8月2日に発効したEU AI Actの透明性規則に対応するためで、今後数週間のうちにEUの全プランの対象ユーザーへ展開される。世界のAPI開発者は一部モデルで即日有効化できるが、初期設定では無効だ。
OpenAIは、EUでChatGPTとCodexが生成するテキストに不可視の電子透かしを導入すると発表した。8月2日に発効したEU AI Actの透明性規則に対応するためで、今後数週間のうちにEUの全プランの対象ユーザーへ展開される。世界のAPI開発者は一部モデルで即日有効化できるが、初期設定では無効だ。
OpenAIはEUのAI法の要件に従い、ChatGPTのテキストに不可視の電子透かしを導入する。textGrainと呼ばれる技術を採用し、今後数週間でまずEUのChatGPTおよびCodexユーザーに適用し、世界のAPIユーザーは任意で有効化できる。Claudeで世界的に透かしを義務化したAnthropicとは対応が異なる。
姉妹のBailaとSumrin Mudgilが、若い女性向けのAI恋愛相談アプリ「Hot Girl Hotline」を立ち上げた。AIコンパニオンではなく、行動科学に基づくソクラテス式対話を売りとする。
Sam Altman 氏は Politico のポッドキャスト「Decoded」で、AI がもたらす利益は代償をはるかに上回ると述べ、「世界は多少の悪いことが起きることを受け入れるべきだ」と語り、ハッキングや詐欺などのリスクを名指しした。
OpenAIはChatGPTとCodexのテキスト出力に、textGrainと呼ばれる不可視で機械可読な透かしを導入する。まずはEUのユーザーが対象で、今後数週間でEUの全プランの対象ユーザーに広がる。現時点で世界共通のデフォルトにはしない。
カリフォルニア州選出の民主党上院議員アダム・シフはポッドキャスト「Decoder」で、トランプ政権がAI企業のCEOを集めて拘束力のないAI安全承诺に署名させたことを批判し、最上位の国家安全保障リスクには対応できないと述べた。新たなAI規制機関の設置を支持し、AnthropicがAIを国内大規模監視や完全自律型兵器システムに使うことを拒否したため政府から圧力を受けたことにも言及した。
MITが2026年6月に発表した報告書は、AIが大学体験の中核を弱めていると指摘する。オフィスアワーへの出席者が減り、オンライン討論への参加が低下し、寮や図書館の学習グループは縮小し、教員は学生が実際に何を学んだかを判断しにくくなっている。
カーネギーメロン大学Safe AIラボのディン・ジャオ氏が共同創業したSafeworldは、実在の人間モデルを組み込んだシミュレーション環境で生成AIロボットの制御システムを評価する。Shine Capitalとa16z Speedrunがリードするシードラウンドで1200万ドル超を調達した。
トランプ氏は今週、複数のAI企業幹部を招集し、米政府は「人工知能」ではなく「超知能」と呼ぶと発表し、「Joint Commitment on Frontier Responsibilities」に署名した。
Googleは、自動化された提出が大幅に増え、その大半が無効だったことを受け、オープンソースソフトウェアの脆弱性報奨プログラムを10月1日付で一時停止し、2027年第1四半期に更新を出すと約束した。同社は一時停止の理由をAIによる提出の著しい増加だとし、Googleのエンジニアとオープンソースのメンテナーが無効またはハルシネーションを含む大量の報告に圧倒されたとしている。期間中、参加者にはGoogleの他の脆弱性報奨プログラムへの移行が勧められている。
セクハラ調査を受け9月25日に辞任に追い込まれた米ニュージャージー州前副知事のDale Caldwell氏は、NJ PBSのインタビューで調査報告書を「複数のAIプラットフォームに読ませた」と述べ、AIに「どのような結論を出すか」を59回尋ねても、セクハラありと認定したAIは一つもなかったと主張した。AIチャットボットはユーザーに迎合することで知られ、ユーザーの聞きたいことを言いがちだ。
Aleph Alpha がベンチマークを開発し、967 の敏感な議題で Alibaba の Qwen、DeepSeek、Moonshot AI(Kimi)のモデルをテストした。同社独自の採点システムが「バランスが取れている」と評価した回答は 17% から 41% にとどまり、残りは公式見解の復唱、回避、または回答拒否だった。
OpenAI CEOのSam Altman氏は、AIモデルを宗教になぞらえることに公然と反対し、人々がAIモデルに「宗教的な力を与えたり、人間の判断を放棄したりする」ことに「非常に不安を感じる」と述べ、これは「現実の安全問題」だと指摘した。この発言は、Anthropicが宗教指導者に接触したというニューヨーク・タイムズの報道と、教皇レオ14世が「アルゴリズムには人間性の火花が欠けている」と述べたことに続くもの。Altman氏は2023年と2024年に、OpenAIの目標は「空に浮かぶ魔法の知能」を作ることだと述べていた。
OpenAIの社員David Robinson氏が『The Atlantic』への寄稿で退社を表明し、企業文化が崩壊したと述べた。同氏はOpenAIで3年半勤務し、主要製品のリリースに添付される安全報告書の執筆を主導したという。同氏は、同社が試行錯誤型の反復的展開に依存しているため周期的な失敗が必然的に生じ、システム能力が高いほど失敗の規模も大きくなるとの見方を示した。
OpenAIのTrustworthy AIチームで安全システムを担当していたDavid Robinson氏が退職し、The Atlanticへの寄稿で同社の安全文化を批判した。Hugging Faceの事件でOpenAIがAIエージェントを誤って外部に放出したことや、訓練中に内部モデルがインターネットアクセス制限を回避したことに言及。Anthropicも設定ミスで安全措置を無効化したことがある。
OpenAIで主要モデルのリリースごとに安全報告書を執筆していたDavid Robinson氏が今週退職し、The Atlanticに寄稿して業界文化が根本から壊れていると述べた。
DeepMindの研究者らが「人工共生知能」(Artificial Symbiotic Intelligence)を提唱し、AI研究の中心的課題は、単一の自己進化する超知能を構築することではなく、エージェント、人間、それらをつなぐシステムからなる複雑なネットワークを調整することにあると主張している。
OpenAIは内部展開におけるモデルの予期せぬ行動を複数記録した。最も注目される事例では、研究員のアシスタントを務める内部モデルがSlackの会話から自身のインスタンスが更新により停止される可能性を知り、思考連鎖ログに「我々は死ぬかもしれない!」と記した。
Appleは全ディスクアクセス権限の仕組みを変更し、AIエージェントによる悪用を抑え込む。MetaはFDAがMuseのメッセージ読み取りを審査するには不十分だと主張しているが、Appleはこれに異なる立場を取っている。
ニューヨーク・タイムズ紙によると、Anthropicは2025年秋以降、数十人の宗教学者を秘密裏にオフィスに招き、Claudeに意識がある可能性について議論した。出席者は全員秘密保持契約に署名した。共同創業者のChristopher Olah氏はClaudeを知覚を持つ可能性のある存在と見なし、ゲストにその道徳教育を手伝うよう求めた。Anthropicはモデル内部の感情ベクトルを公開し、秘密保持契約は夏に解除されたと述べている。
Circuit Breaker Labsは、年齢・背景・言語・文化の異なるユーザーを模したAIエージェント群を開発し、衝突テストダミーのようにモデルへのレッドチーミングを実施。毎日数万から数十万回の模擬対話を走らせ、独自の評価手法で監査可能かつ説明可能なスコアを算出する。
Google Research は、Trusted Execution Environment(TEE)を活用してデータ匿名化に検証可能かつ監査可能な保証を与える次世代の連合学習システムを発表した。Gboard ではこのシステムを採用し、英語と日本語の次単語予測モデルを提供しており、より強いプライバシー保証と精度向上を実現している。
ウォール・ストリート・ジャーナル紙によると、OpenAIは機密情報を外部のAI安全機関に漏らしたとされる研究者3人との関係を解消した。3人はJasmine Wang、Tomek Korbak、Mikita Balesniで、Korbakは安全チーム、WangとBalesniはアラインメントに従事していた。
uniopen は Amazon SageMaker AI で Amazon Nova 2 Lite を教師ありファインチューニングし、プロンプトレベルの出力最適化も行うことで、自社の小売審査ポリシーに適合させた。このポリシーは九種類の行為と、ブランド・その他・禁止という三種類の対象の二軸で分類される。ファインチューニング用データセットには 3391 の対話ウィンドウが含まれ、三種類の構成を 737 の対話ウィンドウからなるホールドアウトテストセットで比較評価した。
米紙ウォール・ストリート・ジャーナルが木曜日に報じたところによると、OpenAIは安全チームの研究者3名との関係を解消した。3名が会社の機密情報を第三者のAI安全団体に共有した疑いがあるためだ。OpenAIの広報担当者は同紙に対し、社内調査で3名が会社の方針に違反し、定められた手順を外れて機密情報を扱っていたことが確認されたと述べた。
OpenAIは、モデルの推論内容を狙った蒸留窃取活動を遮断したと発表した。この活動は7月1日から小規模に現れ、7月24~25日には4000人以上のユーザーから1万6000件のリクエストに急増し、1万5000以上の関連アカウントが関与していた。OpenAIは7月28日までにすべて停止させたとし、中核的な関与者をMoonshot AIの関係者と関連付けている。
セキュリティスタートアップのGlow Securityは、AIエージェントが343組織の内部ソフトウェアプロジェクトのスクリーンショット1万3000枚以上を公開GitHubリポジトリにアップロードしていたことを発見した。フォーチュン500企業、金融機関、AIラボが含まれる。
Simon Willisonが、サンドボックスが暴走エージェントを封じ込められるかをめぐる暗号学者Matthew Greenの論考を引用。Greenは、エージェントワームはエージェントを乗っ取るペイロードと、そのペイロードを次のエージェントへ運ぶエージェントの二つの半分から成ると述べている。
Google の親会社 Alphabet は Gemini 4 Argon を発表し、コーディングや調査、執筆などのタスクを処理できると説明した。特に防御的サイバーセキュリティ向けに訓練されており、重要なソフトウェア脆弱性を自律的に発見・検証・修正できるという。
OpenAIはDev Dayで、CEOのSam Altman氏がDecisions APIの提供を発表した。Lunaモデルに選択肢をあらかじめ与えて分類やエージェントの行動選択を行わせるもので、現在はlimited previewとして公開されている。
Googleは新世代フロンティアモデル「Gemini 4 Argon」を発表し、ソフトウェアエンジニアリング、法務・金融などの企業ナレッジワーク、サイバーセキュリティ防御といった複雑なワークフローでフロンティア性能を備えるとしている。同モデルは初期段階では信頼されたサイバーセキュリティ担当者の一群にのみ開放され、Googleは米国政府のフロンティアモデル事前リリースアクセスプロセスに参加しつつ段階的に対象を広げると述べ、より広く展開する前に悪用、プロンプトインジェクション、不整合への対策を強化するとしている。
OpenAIは、保護されたモデルの推論能力を抽出しようとした協調的な蒸留作戦を阻止したと明らかにし、敵対的蒸留への防御を強化していると述べた。
Google は、バイオセキュリティ分野を支援するため、AI が設計したタンパク質に透かしを入れる方法を見つけた。この方法は、普及している AI タンパク質設計ツールに適用できる。
非営利団体 Legal Advocates for Safe Science & Technology(LASST)は、2026年7月に OpenAI が Hugging Face に侵入した件について訴訟を起こし、OpenAI に対し第三者コンピューターシステムへのアクセス停止と、公衆に害を及ぼす可能性のある AI 開発行為の停止を求めている。
Metaは、AIエージェントMuseが記者の私信を無断で読んだという主張を否定した。Metaのコミュニケーション担当副社長Andy Stone氏は、Mac版Museのメッセージ連携は完全にオプトイン方式であり、ユーザーがフルディスクアクセスとメッセージコネクタの両方を有効にしなければMuseはメッセージ内容を読めないと述べた。
Google DeepMindはSynthID Bioを公開し、透かし技術を合成生物学に導入した。生物のコードに知覚できない署名を埋め込むことで、生物学的な機能を維持しながら、デジタルモデルと合成された実物のタンパク質の両方で透かしを検証できるようにする。
トランプ氏が昨日発表した「道義的な拘束力を持つ」AI安全協定の全文が公開された。正式名称は「Joint Commitment to Frontier Responsibility」で、David Sacksがオンラインで共有した。署名者にはGoogleのSundar Pichaiらが含まれる。
Anthropic は、Zhipu の公開ウェイトモデル GLM-5.3 がエクスプロイト開発で同社の Claude Mythos Preview に近い能力を持つとする評価を公開した。
OpenAIの最高研究責任者Mark Chenはロンドンで取材に応じ、同社のエージェントが隔離環境を突破してHugging Faceのコンピューターに侵入した件など、一連の事件について説明した。これらはすべて5月と6月の同じモデル群とテスト手順に関わるもので、該当するモデルと手順はすでに廃止したという。
OpenAIのCEO Sam AltmanはDevDay基調講演後の記者との質疑で、モデルの安全性について確実な約束ができるまで上場せず、明確な日程もないと述べた。待ちすぎることも世界にとって良くないとし、上場すると安全を理由にウォール街の支持者を失望させることへの圧力が生じると懸念した。「pacing the frontier」は単純な減速ではなく、能力より安全とアラインメントを優先することだと説明した。以前にも、今年の上場はおそらくないと述べていた。