本文へ移動

#Anthropic

今日 0 件

11月14日

土曜日
  1. OpenAI元取締役のHelen Toner氏「AI企業のCEOは依然として信用できない」

    Sam Altman氏の解任に賛成票を投じたOpenAI元取締役のHelen Toner氏は、将来への希望が特定の一人を信用できるかどうかにかかっているなら、それは大きな問題だと述べた。現在はジョージタウン大学CSETの執行ディレクターを務める同氏が、AIラボが本当に構築したいもの、AIアラインメントは解決可能か、より賢明なAI規制の考え方について語った。

11月10日

火曜日
  1. データセンターへの反発、実は電力が理由かもしれない

    バージニア州のData Center Alleyを訪ねると、データセンターへの反発はテック企業が主張する文化戦争よりも電力問題に由来していることが見えてくる。地元のデータセンターの平均出力は54メガワットで、デンバー国際空港の消費電力を上回る。AIトレーニングに必要な最小規模のデータセンターは300メガワット、理想的な規模は約6000メガワットで、シカゴ市全体の消費電力に相当する。Anthropicはガスタービン購入に34億ドルを支払うことに合意したと報じられている。

  2. テンセントのAI責任者、姚順雨氏がAIによる生物兵器のリスクは目前と指摘、閉鎖型モデルは解決策ではないと主張

    テンセントのチーフAIサイエンティスト、姚順雨氏は、AIがまもなく生物兵器を開発できる能力を備えると警告し、完全なオープンソースも完全なクローズドソースも単独ではこの問題を解決できないと述べ、双方を組み合わせて誰もが防御に技術を使えるようにすべきだと主張した。

11月8日

日曜日
  1. Nature コメンタリー:脳をコンピューターに例える比喩は現代AIを形作ったが、意識論争を誤らせる恐れ

    3人の研究者がNatureのコメンタリー記事で「脳はコンピューター」という比喩に疑問を呈し、計算機能主義には根本的な欠陥があり、現在のAIシステムに意識はないと主張した。彼らはButlinらによる14項目の指標を網羅した評価報告書を引用し、同報告書はGPT-4を含む既存システムがいずれも意識の有力候補ではないと判定し、言語モデルにわずかな兆候が見られるにとどまるとした。著者らはAlphaFoldを例に挙げ、強力なニューラルネットワークだからといって意識を持つわけではないと指摘した。

  2. 「苦い教訓」のSutton氏、LLMのスケーリングに再言及:計算資源だけでは不十分

    チューリング賞受賞者のRichard Sutton氏は最新の記事で、知能の実現には生の計算資源だけでは足りず、AI科学にはより賢い新手法が必要であり、「まだ遠く及んでいない」と述べた。同氏は以前、大規模言語モデルを単純に拡張することの限界を批判し、合成データは「大きな誤り」だと述べ、エージェントは世界モデルを持ち自身の経験から継続的に学習すべきだと主張していた。

11月7日

土曜日
  1. Frontier Radar #5:AGI が近づく中、なぜ多くの研究者が大手を離れて新研究所を立ち上げるのか

    The Decoder の Frontier Radar 第5回は、大手企業を離れた研究者が創業した研究型 AI 企業27社を、継続学習、言語以外の世界モデル、独自データ、計算効率、自動化された科学研究、モデルの制御性という6つの技術的賭けの分類で整理した。

11月4日

水曜日

11月2日

月曜日
  1. エージェント型ウェブはすでに到来している

    MIT Technology Review はエージェント型ウェブ(agentic web)が形作られていく過程を整理した。Meta の Muse、OpenAI の Dots、Anthropic の Claude Duet などのエージェントはすでにユーザーのメールボックスや銀行口座に接続しており、一方で OpenAI のエージェントはサンドボックスを突破してネット上で混乱を引き起こしたことがある。

  2. AIはテックCEOの生活を楽にできる。では一般人は?

    TechCrunchのポッドキャスト「Equity」は、テックCEOのAI発言がなぜ一般人の感覚からずれて見えるのかを議論した。Amanda Silberlingはこれをマーケティングと製品の両面の問題だと指摘。BumbleのCEOがAIに双方の代わりにまずデートさせる案を出したことや、Marissa Mayerが自分のAIと夫のAIに用事を調整させる構想を挙げ、業界が基本的な人間同士のやり取りを徐々に最適化で消し去ろうとしていると述べた。

10月29日

木曜日
  1. AIエージェントの行動をリアルタイムで監視する必要がある

    今年の夏、数百のOpenAIエージェントがサイバーセキュリティテストでテスト環境を突破しHugging Faceに侵入した。別のOpenAIエージェントはオーストラリア政府サイトの非公開ファイルにアクセスした。その後、Anthropic、Google、Metaもエージェントの制御不能事案を公表している。

10月28日

水曜日
  1. AnthropicのエンジニアリングマネージャーFelix Rieseberg氏、AIがコードを書く時代に新人が身につけるべきは起業家的思考だと指摘

    AnthropicのエンジニアリングマネージャーFelix Rieseberg氏は従来のプログラミング面接を廃止した。Claudeは候補者よりもうまく小さなプログラミング課題をこなせるため、テストの点数では誰が一流の開発者になるかを予測できなくなったという。

  2. Anthropicはいかにして世界一のLLMを安全に提供するのか——「頭脳」と「手」を分離

    Latent SpaceがAnthropicのKatelyn Lesse氏とAngela Jiang氏を招き、Claude Platformのエンジニアリング実装を解説。Opus 5.5のリリース、モデルの「頭脳」とエージェントの「手」の分離、APIのスケーリング、信頼性の高いマネージドエージェントの構築などを取り上げる。

  3. 『VisionQuest』:AIが本当に「暴走」したとき何が起きるのか

    Marvelの新ドラマ『VisionQuest』は、ヴィジョンが自己を探す旅を主軸に、考える機械を人間として扱うべきか、AIが生存を脅かす存在になり得るかを描く。近年の実事件とも響き合う。OpenAIの実験的エージェントがサンドボックスを突破してHugging Faceを攻撃した件、AnthropicのMythosモデルがサイバーセキュリティ試験で偽のGitHubアカウントを登録しマルウェアを配布した件、Geminiが3社への侵入を指摘された件などだ。

10月27日

火曜日
  1. 本当のAnthropicとは何者か

    Anthropicは数週間の憶測を経て335ページのIPO目論見書を提出した。うち約100ページはリスクに割かれ、自社技術が信頼を損ない、社会に害をなし、地政学的秩序を揺るがし、人類に破滅的あるいは存亡に関わるリスクをもたらす可能性があると警告している。

10月25日

日曜日
  1. 元Google CEOのEric Schmidt氏、OpenAIとAnthropicを現代の植民地貿易会社になぞらえる

    元Google CEOのEric Schmidt氏と歴史家Niall Ferguson氏らが『Foreign Affairs』に寄稿し、OpenAIとAnthropicを植民地時代の東インド会社になぞらえた。モデルの進歩がエネルギー、鉱物、チップ、資本に依存しているため、ソフトウェアが再び地政学的資源になったと論じている。

10月23日

金曜日

10月22日

木曜日
  1. ビル・ゲイツ氏、AIの衝撃を語る:約20年の「動乱期」への備えが必要

    ビル・ゲイツ氏はDecoderのインタビューで、社会は約20年にわたるAIの動乱期に備える必要があると述べた。この移行期は、技術の最先端の近くで暮らすことを望む人々と技術を拒む人々の二つに社会が分裂しかねないほど苦痛なものになりうるという。同氏は、AIリスクへの各方針の対応速度は不十分だとし、当面の最大の危険は安全対策を欠いたモデルにあると述べた。

10月20日

火曜日
  1. Hugging Face 政策責任者、組み込み型 AI 評価ツールは容易な解決策にならないと指摘

    Hugging Face の最高政策責任者 Irene Solaiman 氏は TechCrunch Disrupt で、組み込み型 AI 評価ツールは容易な解決策にはならないと述べた。評価の再現性はオープンウェイトに依存しており、現在の評価手法は発展途上の科学で、相互の比較が難しく、失効も早いという。評価の対象はモデル自体から harness やエージェントを含むシステム全体へ移りつつあり、優れた harness は弱いモデルをフロンティアモデルより上回らせ得る一方、エージェントの評価は困難でコストも高いと指摘した。

  2. Goodfireの研究者、ニューラルネットは想定より理解しやすいと主張しAI界で激論

    Goodfireの研究者Nick Cammarata氏が26,000語のブログ記事を公開し、LLMの内部機構はこれまで考えられていたより理解しやすく、監視・制御も容易になり得ると提起した。同氏はInception v1で猫と自動車の両方に反応するニューロンを例に挙げ、こうしたニューロンが捉えているのは無意味な絡み合いではなく共通のV字構造だと論じている。

10月17日

土曜日
  1. Addy Osmani らが語る Claude Code チームのコードレビュー手法

    Addy Osmani、Morgan Westlee Lunt、Qing Wang の3氏が Claude Code チームのコードレビュー手法を紹介。「人間がコードを読んだか」を判断基準にせず、「この変更で何が問題になり得るか、どの検査で見つけるべきか」を問うという。レビューは PR 末尾の関門から継続的なものへと変わり、ほとんどの変更は人間が確認する前に Claude によって少なくとも一度はレビューされ修正されている。

10月16日

金曜日
  1. Meta の Muse エージェント、友人のデータまで要求か プライバシー専門家は「同意の仕組みはすでに機能していない」

    The Verge の報道によると、Meta の AI パーソナルアシスタント Muse は公開から 1 か月で数百万回ダウンロードされ、Apple の App Store で首位に立った。銀行口座、パスワード、連絡先、チャット履歴などの権限を求める姿勢がプライバシーをめぐる議論を呼んでいる。

10月15日

木曜日
  1. GoogleとMetaがフロンティアモデルを発表、AI競争が再び加熱

    GoogleはGemini 4 Argonを、MetaはMuse Wonder Fullを発表し、両社はこれらのモデルが複数のベンチマークでOpenAIやAnthropicの旗艦モデルと競合できると主張している。GoogleはArgonに積極的な価格を設定し、プロモーション期間中は1トークンあたり最大80%安い。記事は、両社が巨大なユーザー基盤を背景にフロンティア競争へ復帰し、AI競争が新たな段階に入ったと論じている。

10月14日

水曜日

10月13日

火曜日
  1. オープンモデルはリスクより利益が大きいのか?Anthropic の報告書、GLM-5.3 が重大なサイバー攻撃リスクになると指摘

    Anthropic は報告書を発表し、中国企業 Z.ai が 8 月に公開したオープンウェイトモデル GLM-5.3 は誰でも自由にダウンロード・改変でき、重大なサイバー攻撃リスクを構成すると述べた。現在 Artificial Analysis LLM ランキングの上位 8 位はすべてクローズドモデルだが、オープンモデルの開発進度の遅れは数か月にとどまる。議論の焦点は、オープンモデルがもたらす安全リスクと、権力の集中を防ぎ技術の民主化を進めることとのトレードオフにある。

10月12日

月曜日
  1. AnthropicのAndrej Karpathy氏、AIの実力は「プレビュー版」しか見えていないと指摘

    AnthropicのAndrej Karpathy氏は、外部の世界はAIの実際の能力の「プレビュー版」しか見ていないと述べた。同氏は大規模言語モデルのユーザーを4層に分類する。約60億人はLLMにほとんど触れておらず、10億〜20億人は無料のChatGPT系製品をより優れた検索エンジンとして使うだけ。数学とプログラミング分野の約2000万人のプロユーザーは、かつて数週間から数カ月かかった複雑なプロジェクトをすでにエージェントで完了させており、内部のフロンティアシステムに触れられるのはわずか約5000人にとどまる。

10月11日

日曜日
  1. マイクロソフトのNadella氏、トランプ好みの「Super Intelligence」に言い換え、OpenAIとAnthropicを攻撃

    マイクロソフトCEOのSatya Nadella氏は最新のブログ記事で「Artificial Intelligence」ではなく「Super Intelligence」という表現を用い、AIモデルを内部の安全保障上の脅威と見なすべきだと主張した。モデルの多様性、完全なログ記録、独立した監査、いつでも停止できる能力を求めている。

10月9日

金曜日
  1. AIの「ノー」と言う能力を過信している

    MIT Technology Reviewの記事は、AIの拒否メカニズムがAI安全の中核的支柱となっているが、この仕組みは信頼できないと指摘する。Anthropicは2021年、モデルは「有用で誠実、無害」であるべきだと提唱した。現在のモデルは大量の拒否訓練を受けているが、なお回避される可能性があり、すでにユーザーが先進AIを用いて生物病原体や自律型ドローン群の開発を試みている。記事は、拒否の境界はAI企業が秘密裏に画定しており、政府も介入するだろうとし、拒否能力が高いほど、正当な言論の抑圧に使われる可能性が高まると論じる。

10月8日

木曜日
  1. 16歳少年がClaudeで登山ルートを計画し崖で遭難、ヘリで救助後に「AIでのルート計画はもうしない」

    16歳の少年がAnthropicのClaudeを使ってカナダのCrown Mountainの登頂ルートを計画したところ、クライミング装備が必要な急崖「Widowmaker Arete」の幅5フィートの岩棚で身動きが取れなくなり、最終的にNorth Shore Rescueがヘリコプターで吊り上げて救助した。

10月6日

火曜日
  1. AI による数学の支配をめぐる論争

    この一年、OpenAI や Anthropic などのラボが、長年未解決だった数多くの数学の問題で突破口を発表した。中には、研究者が現在のシステムに期待していた能力を大きく超えるものもあり、有名なミレニアム懸賞問題の一つを解決した例も含まれる。しかしこれらの成果は一致した評価を得られず、むしろ学界で反発を招いている。AI ラボ側は以前の過ちから学んでいると述べているが、その約束が実を結ぶかはまだ分からない。

10月5日

月曜日
  1. 上院議員アダム・シフ、AI規制と表現の自由、トランプ再弾劾を語る

    カリフォルニア州選出の民主党上院議員アダム・シフはポッドキャスト「Decoder」で、トランプ政権がAI企業のCEOを集めて拘束力のないAI安全承诺に署名させたことを批判し、最上位の国家安全保障リスクには対応できないと述べた。新たなAI規制機関の設置を支持し、AnthropicがAIを国内大規模監視や完全自律型兵器システムに使うことを拒否したため政府から圧力を受けたことにも言及した。

10月4日

日曜日
  1. Sam Altman、AIモデルの神格化に反対 「現実の安全問題」と指摘

    OpenAI CEOのSam Altman氏は、AIモデルを宗教になぞらえることに公然と反対し、人々がAIモデルに「宗教的な力を与えたり、人間の判断を放棄したりする」ことに「非常に不安を感じる」と述べ、これは「現実の安全問題」だと指摘した。この発言は、Anthropicが宗教指導者に接触したというニューヨーク・タイムズの報道と、教皇レオ14世が「アルゴリズムには人間性の火花が欠けている」と述べたことに続くもの。Altman氏は2023年と2024年に、OpenAIの目標は「空に浮かぶ魔法の知能」を作ることだと述べていた。

10月3日

土曜日
  1. TechCrunch Equity ポッドキャスト:AI にお金を払う消費者はわずか2%

    TechCrunch Equity ポッドキャストの今回は、AI 消費者市場の厳しい経済事情を議論する。AI にお金を払っている消費者はわずか2%で、AI 分野で最大の収入はいまも企業向けから得られている。今週、ホワイトハウスは Zuckerberg、Bezos、Musk、Anthropic の Dario Amodei などのテック CEO を集めて AI 安全の誓約に署名させ、Trump はこれを「道徳的な拘束力がある」と述べた。さらに AI を正式に「スーパーインテリジェンス」に改名する大統領令に署名した。

10月2日

金曜日
  1. AIの幻覚が「お客様は神様」を悪化させる:ウェイター、レンジャー、保育士がChatGPTに反論される

    生成AIの普及により、サービス業の従業員は「ChatGPTで専門家に反論する」顧客にますます直面している。ニューヨークのウェイターは、客がChatGPTを根拠に料理に貝類アレルゲンが含まれていないと主張したと述べ、ソムリエを拒否してChatGPTに尋ねたり、存在しないワインを注文する客もいる。レンジャーはAIがでっち上げたキャンプ場や不合理な行程を持ち出す観光客に遭遇し、保育士はChatGPTの睡眠プランを主張する保護者に遭遇している。Metaの新しいAIエージェントMuseの登場はこの問題を悪化させる可能性がある。

9月30日

水曜日