ナデラ氏、すべてのAIモデルが「侵害済み」と想定すべきと主張、AIに緊急ブレーキを求める

マイクロソフトCEOのナデラ氏はXに長文を投稿し、高度なAIモデルのリスクについて言及。AIを入れ子状のブラックボックスの集合として扱い、その助言や行動を受け入れるか拒否するしかない状況はもはや容認できないと述べた。モデルを隔離し、観察し、改ざん防止された人間可読の証拠を残せる、より透明な体系の構築を主張。モデルは最初から侵害済みと想定して隔離すべきだとし、緊急ブレーキのように、権限を持つ者がタスク実行中のモデルをいつでも一時停止・停止できるべきだとしている。また、より高度なモデルにはより高度な隔離技術が必要で、標準化すべきだと述べ、投稿全体を通じてAIを超知能と呼んでいる。