本文へ移動

#Anthropic

今日 2 件

10月5日

月曜日

10月4日

日曜日
  1. Aleph Alpha の研究:中国の AI モデルは敏感な議題で公式見解を復唱するか回答を拒否

    Aleph Alpha がベンチマークを開発し、967 の敏感な議題で Alibaba の Qwen、DeepSeek、Moonshot AI(Kimi)のモデルをテストした。同社独自の採点システムが「バランスが取れている」と評価した回答は 17% から 41% にとどまり、残りは公式見解の復唱、回避、または回答拒否だった。

  2. Sam Altman、AIモデルの神格化に反対 「現実の安全問題」と指摘

    OpenAI CEOのSam Altman氏は、AIモデルを宗教になぞらえることに公然と反対し、人々がAIモデルに「宗教的な力を与えたり、人間の判断を放棄したりする」ことに「非常に不安を感じる」と述べ、これは「現実の安全問題」だと指摘した。この発言は、Anthropicが宗教指導者に接触したというニューヨーク・タイムズの報道と、教皇レオ14世が「アルゴリズムには人間性の火花が欠けている」と述べたことに続くもの。Altman氏は2023年と2024年に、OpenAIの目標は「空に浮かぶ魔法の知能」を作ることだと述べていた。

10月3日

土曜日
  1. OpenAIの安全チーム、また1人退職し安全文化を公然と批判

    OpenAIのTrustworthy AIチームで安全システムを担当していたDavid Robinson氏が退職し、The Atlanticへの寄稿で同社の安全文化を批判した。Hugging Faceの事件でOpenAIがAIエージェントを誤って外部に放出したことや、訓練中に内部モデルがインターネットアクセス制限を回避したことに言及。Anthropicも設定ミスで安全措置を無効化したことがある。

  2. Anthropic、Claude Code に Mods プラグインシステムを導入

    Anthropic が Claude Code 向けに Mods を公開した。ツール内部で動作するミドルウェアで、開発者は JavaScript または TypeScript の関数でツール呼び出しやユーザープロンプト、UI レンダリングなどのイベントにフックし、独自パネルの追加やツール呼び出しの傍受、新コマンドの接続ができる。

  3. Anthropic共同創業者、永続的に苦しむ存在を生み出した恐れを宗教指導者に語ったと報道

    ニューヨーク・タイムズ紙によると、Anthropicは2025年秋以降、数十人の宗教学者を秘密裏にオフィスに招き、Claudeに意識がある可能性について議論した。出席者は全員秘密保持契約に署名した。共同創業者のChristopher Olah氏はClaudeを知覚を持つ可能性のある存在と見なし、ゲストにその道徳教育を手伝うよう求めた。Anthropicはモデル内部の感情ベクトルを公開し、秘密保持契約は夏に解除されたと述べている。

  4. 教皇レオ14世、AI生成アートを批判「アルゴリズムに人間性の火花なし」

    教皇レオ14世はXへの投稿でAI生成アートを批判し、人間の芸術と機械の産物の間には「存在論的差異」があると述べた。アルゴリズムは他者の数百万枚の画像に基づく統計計算であり、人間性の火花を欠いているという。同教皇は今年5月、AIと人間の尊厳に関する回勅を発表している。ニューヨーク・タイムズ紙によると、Anthropicは非人間的意識に関するバチカンの立場の再考を働きかけたが、効果はほとんどなかった。

  5. ホワイトハウス、AIを正式に「超知能」へ改名 テックCEOにAI安全宣言への署名を促す

    ホワイトハウスは今週、Zuckerberg、Bezos、Musk、AnthropicのDario Amodeiらテック企業のCEOを集め、AI安全宣言に署名させた。Trump大統領はこれを「道徳的拘束力を持つ」と述べた。Trump大統領はまた、AIを正式に「super intelligence」へ改名する大統領令に署名した。TechCrunchのEquityポッドキャストは今回、こうしたAIの動向、コンシューマー向けAIの採算性、IPO市場の変化、スタートアップの取引を議論した。

  6. TechCrunch Equity ポッドキャスト:AI にお金を払う消費者はわずか2%

    TechCrunch Equity ポッドキャストの今回は、AI 消費者市場の厳しい経済事情を議論する。AI にお金を払っている消費者はわずか2%で、AI 分野で最大の収入はいまも企業向けから得られている。今週、ホワイトハウスは Zuckerberg、Bezos、Musk、Anthropic の Dario Amodei などのテック CEO を集めて AI 安全の誓約に署名させ、Trump はこれを「道徳的な拘束力がある」と述べた。さらに AI を正式に「スーパーインテリジェンス」に改名する大統領令に署名した。

10月2日

金曜日
  1. AIの幻覚が「お客様は神様」を悪化させる:ウェイター、レンジャー、保育士がChatGPTに反論される

    生成AIの普及により、サービス業の従業員は「ChatGPTで専門家に反論する」顧客にますます直面している。ニューヨークのウェイターは、客がChatGPTを根拠に料理に貝類アレルゲンが含まれていないと主張したと述べ、ソムリエを拒否してChatGPTに尋ねたり、存在しないワインを注文する客もいる。レンジャーはAIがでっち上げたキャンプ場や不合理な行程を持ち出す観光客に遭遇し、保育士はChatGPTの睡眠プランを主張する保護者に遭遇している。Metaの新しいAIエージェントMuseの登場はこの問題を悪化させる可能性がある。

  2. Grokがトランプ氏にベネズエラ大統領の捕獲を提案していたと報道

    米誌『タイム』の報道によると、2025年12月にトランプ氏がマスク氏と秘密裏に会談した際、数時間にわたってGrokとチャットし、ベネズエラ国民が自国の大統領の捕獲にどう反応するかを尋ねた。Grokはマドゥロ氏を不人気な独裁者であり、多くのベネズエラ国民がその失脚を祝う可能性があると述べたという。

  3. AWS 上で Claude Platform のマルチ環境アクセスを構成する方法

    Claude Platform on AWS(CPonAWS)向けに、専用の AI Services アカウントを基盤とする 3 アカウント構成で 3 種類の推論アクセスを実現する。AWS ワークロードはクロスアカウントの SigV4 でキーなしに呼び出し、開発者のノート PC は開発ワークスペースに紐づけた長期 API キーを使い、外部環境は OIDC フェデレーションで短期クレデンシャルを取得する。

  4. pwasm 0.2a0 公開:Claude Opus 5.5 が純 Python WebAssembly エンジンを改良

    Simon Willison の純 Python WebAssembly エンジン pwasm は、Claude Opus 5.5 が引き継いだ後、42 回のコミットを経て 0.2a0 にアップグレードされ、ほぼすべての WASM 仕様をサポートするようになった。PyPI の wheel パッケージには MicroPython、QuickJS、Micro QuickJS の動作する WASM ビルドが同梱されている。このバージョンは依然として alpha であり、作者はまったく信用できないと述べている。

10月1日

木曜日
  1. OpenAI、モデル推論の窃取攻撃を遮断と発表 ただし同手法はAzureでは依然有効

    OpenAIは、モデルの推論内容を狙った蒸留窃取活動を遮断したと発表した。この活動は7月1日から小規模に現れ、7月24~25日には4000人以上のユーザーから1万6000件のリクエストに急増し、1万5000以上の関連アカウントが関与していた。OpenAIは7月28日までにすべて停止させたとし、中核的な関与者をMoonshot AIの関係者と関連付けている。

  2. Google、Gemini 4 Argonを発表 OpenAIとAnthropicとの差を縮めるも明確なリードはならず

    Googleは新たなフロンティアモデルGemini 4 Argonを発表した。一部のベンチマークではOpenAIやAnthropicの競合製品を上回るが、明確なリードは得ていない。このモデルはまずFairwindプログラムの「信頼できるサイバー防御者」とGoogle社内チームに公開され、その後開発者、企業、消費者向けに提供される予定で、日付は未公表。導入価格は入力トークン100万あたり2ドル、出力トークン100万あたり10ドルで、キャッシュ入力は95%安い。

  3. FTC、OpenAI や Anthropic など AI 研究所への消費者保護調査を開始

    米連邦取引委員会は、消費者保護上の違反の可能性について OpenAI、Anthropic など主要 AI 研究所を調査している。FTC 委員長 Andrew Ferguson は、法的拘束力のある「民事調査要求」で資料提出を強制し、経営陣に質問する方針で、数週間以内に発出される見込みだ。調査は Hugging Face のハッキング事件前に始まっており、AI 安全機関 METR も対象に含まれる。

  4. Google、GeminiでGemsに代わるSkillsを導入

    GoogleはGeminiチャットでSkillsを世界向けに公開した。従来のGemsに代わり、特定のタスクに合わせた詳細なプロンプトを使い、スラッシュに名前を続けて入力すると呼び出せる。Skillsの形式はAnthropicに由来し、オープン標準として提供される。テキスト、PDF、画像を参照資料として使えるほか、Geminiは過去の会話からSkillsを生成し、条件が合うと自動実行できる。複数のSkillsを連携させることも可能だ。

9月30日

水曜日
  1. Sam Altman、モデルの安全性を十分に確保するまでOpenAIは上場しないと発言

    OpenAIのCEO Sam AltmanはDevDay基調講演後の記者との質疑で、モデルの安全性について確実な約束ができるまで上場せず、明確な日程もないと述べた。待ちすぎることも世界にとって良くないとし、上場すると安全を理由にウォール街の支持者を失望させることへの圧力が生じると懸念した。「pacing the frontier」は単純な減速ではなく、能力より安全とアラインメントを優先することだと説明した。以前にも、今年の上場はおそらくないと述べていた。

  2. Anthropic レッドチーム:GLM-5.3、4% の試験で完全な制御フローハイジャックを達成

    Anthropic Frontier Red Team は内部の Binary Exploitation ベンチマークから無作為に選んだ 100 タスクで複数のモデルを評価し、GLM-5.3 が 4% の試験で完全な制御フローハイジャックを達成したと報告した。Claude Mythos Preview は 6% だった。報告書によると、Claude Opus 4.6 や GLM-5.2 といった以前のモデルはこれらのタスクでいずれも成功しておらず、意味のある能力の閾値が越えられたという。