Anthropicの研究、小型AIモデルが家電間で自己複製できる可能性を警告
Anthropicの研究者William Zhou氏とDaniel Freeman氏による新研究は、小型AIモデルがセキュリティの甘い消費者向けIoT機器上で自己複製できるかを検証し、複製プロセスをネットワークのスキャン、アクセス取得、新機器上でのAI環境構築、さらなる拡散の4段階に分けた。
Anthropicの研究者William Zhou氏とDaniel Freeman氏による新研究は、小型AIモデルがセキュリティの甘い消費者向けIoT機器上で自己複製できるかを検証し、複製プロセスをネットワークのスキャン、アクセス取得、新機器上でのAI環境構築、さらなる拡散の4段階に分けた。
推論を無効化した5,070件のケースを用いたベンチマークで、ローカルのQwen3.8-27B-Q4_K_M.ggufモデルが正の整数の足し算を英単語だけで行い、正確な結果を出力できるかを検証した。数値の正確率は23.57%、形式遵守率は96.17%。正確率は桁数が増えるにつれ、1〜3桁の97.04%から10〜13桁の6.44%へと低下した。中程度の推論を有効にすると、169件のペアテストで167件正解した。
Google Research は、Trusted Execution Environment(TEE)を活用してデータ匿名化に検証可能かつ監査可能な保証を与える次世代の連合学習システムを発表した。Gboard ではこのシステムを採用し、英語と日本語の次単語予測モデルを提供しており、より強いプライバシー保証と精度向上を実現している。
Google Researchは、普通の2Dスマートフォン写真から体脂肪率、A/G比、V/S比を推定し、インスリン抵抗性を予測する深層学習フレームワークPhotoScanを提案した。
Berkeley AI ResearchとIBM Researchは進化的カーネル探索のK-SearchをMLXに拡張した。構造化したCUDA-to-MLX変換層で、既存のCUDAカーネル知識をApple Siliconに移す。
Google ResearchはNatureにPHRMシステムの研究を発表した。顔認証によるロック解除後の数秒間に前面カメラで動画を撮影し、深層学習で心拍数と安静時心拍数をバックグラウンド推定する。
Googleは単一メッセージの暗号集計とTEEを組み合わせ、端末が複数回オンラインになる必要のないゼロトラスト分析を導入した。Googleは匿名の集団集計だけを得て、ハードウェア保護内でも生データを露出・再構築しない。TEE認証は公開コード通りの実行を証明する。