NVIDIA Blog· Saša Zdjelar·· 10 日前
NVIDIA：AIの安全は工学の問題、エージェント各層での対処方法
AI Security Is an Engineering Problem — How to Solve It at Every Layer of the Agent Stack
AI による要約
NVIDIAはAIの安全を工学の問題として扱い、明確な安全要件、実行可能な制御、責任者、保護の有効性の証拠を求める。オープンソースのNVIDIA OpenShellは推論範囲の外で方針を強制し、サンドボックス実行を提供する。Cisco DefenseClawが統制層を追加し、JFrogはOpenShellによるエージェント技能の走査と検証を統合する。
入選の記録
基準 60公式・一次情報1 回目 422 回目 42
入選せず二回の合計 84 < 基準の 2 倍 120
- 情報源の区分
- 公式・一次情報、この区分の基準は 60 点
- 予備審査
- 通過：讨论AI Agent安全工程与防护栈
採点はモデルが同じ基準で独立に二回行い、満点は 100。二回の合計が基準の 2 倍に届いたものだけが入選します。基準は情報源の区分ごとに決めています。
情報源：NVIDIA Blog · blogs.nvidia.com