AWS Machine Learning Blog· Deniz Yilmaz·· 3 日前
Orca Security、Amazon Bedrock で自然言語セキュリティクエリを構築、クエリコストを 90% 削減
Natural language security queries at Orca Security using Amazon Bedrock
AI による要約
Orca Security は AWS と協力し、Amazon Bedrock 上で自然言語クエリエージェント Discovery AI を構築した。自然言語の質問を Sonar クエリに変換する。初期ベースラインと比べてクエリコストを 90% 削減、入力トークンを 93% 削減、レイテンシを 75% 低減し、現在は 1 日あたり数千件のクエリを処理、応答時間は 15 秒。RAG とスキーマ認識クエリ構築を組み合わせた 9 段階のパイプラインを採用し、段階ごとに異なる基盤モデルを割り当てている。
入選の記録
基準 60公式・一次情報1 回目 222 回目 34
入選せず二回の合計 56 < 基準の 2 倍 120
- 情報源の区分
- 公式・一次情報、この区分の基準は 60 点
- 予備審査
- 通過:正文详述基于Amazon Bedrock的自然语言查询AI系统架构与评测
採点はモデルが同じ基準で独立に二回行い、満点は 100。二回の合計が基準の 2 倍に届いたものだけが入選します。基準は情報源の区分ごとに決めています。
情報源:AWS Machine Learning Blog · aws.amazon.com