TechCrunch · AI· Julie Bort·· 14 日前
Circuit Breaker Labs、「AI衝突テストダミー」で子どもと成人のAI安全性を検証
Circuit Breaker Labs hopes to make AI safer for your kids (and you)
AI による要約
Circuit Breaker Labsは、年齢・背景・言語・文化の異なるユーザーを模したAIエージェント群を開発し、衝突テストダミーのようにモデルへのレッドチーミングを実施。毎日数万から数十万回の模擬対話を走らせ、独自の評価手法で監査可能かつ説明可能なスコアを算出する。
入選の記録
基準 76メディアと個人1 回目 222 回目 22
入選せず二回の合計 44 < 基準の 2 倍 152
- 情報源の区分
- メディアと個人、この区分の基準は 76 点
- 予備審査
- 通過：AI安全测试代理与红队评测
採点はモデルが同じ基準で独立に二回行い、満点は 100。二回の合計が基準の 2 倍に届いたものだけが入選します。基準は情報源の区分ごとに決めています。
情報源：TechCrunch · AI · techcrunch.com