本文へ移動
assaynotes
EN日本語中文

#安全性・アライメント

今日 6 件

6月10日

水曜日

6月8日

月曜日

6月1日

月曜日

  1. Import AI 459：AI 規制の難しさ、タンパク質折り畳みのスケーリング則、絶滅リスクの価格付け

    Import AI 459 は三研究を扱う。英国 AI Safety Institute の論文は、AI で AI 訓練を監督する自動アライメント研究が万能でなく、実装は予想以上に難しいとする。他にタンパク質折り畳みモデルのスケーリング則と AI システムの絶滅リスクの価格付けを論じる。

5月28日

木曜日

  1. Google、ゼロトラスト集計によるプライバシー分析を導入

    Googleは単一メッセージの暗号集計とTEEを組み合わせ、端末が複数回オンラインになる必要のないゼロトラスト分析を導入した。Googleは匿名の集団集計だけを得て、ハードウェア保護内でも生データを露出・再構築しない。TEE認証は公開コード通りの実行を証明する。

5月18日

月曜日

5月16日

土曜日

  1. Google DeepMind、シンガポールと国家 AI 連携、医療・教育・気候の事業へ

    Google DeepMind とシンガポール政府は国家 AI 連携を結び、医療、研究、教育、気候の新事業を始める。AI 支援の「三者ケア」を検討し、AlphaFold と Google Earth で東南アジアの感染症研究を進め、Gemma ベースのランニング支援で視覚障害のある選手の自主訓練を助ける。

5月11日

月曜日

  1. Import AI 456：規制の「radical optionality」、再帰的自己改善と成長、Meta・KAIST の Neural Computer

    Institute for Law & AI は「radical optionality」の規制を提案した。政府は現在の過剰規制を避けつつ、情報収集、内部告発者保護、評価、モデルウェイト保護の能力を築き、強い AI の影響に素早く対応すべきとする。Meta と KAIST の論文は、計算、メモリー、I/O を学習した実行時状態に統合する Neural Computer を提案した。

4月30日

木曜日

  1. Google DeepMind、医療研究計画AI co-clinicianを発表

    Google DeepMindは医師の臨床的監督の下でAIエージェントが診療を支援するAI co-clinician研究計画を発表した。実際のプライマリーケアの98質問の盲検評価では97件に重大な誤りがなく、医師は既存のエビデンス統合ツールよりその回答を好んだ。140項目の診察技能評価でAIは68項目でプライマリーケア医と同等以上だったが、危険信号の発見と重要な身体診察の指示では専門医が全体として優れていた。

4月3日

金曜日

3月31日

火曜日