AWS Machine Learning Blog· Sai Pavan Kasani·· 3 日前
Amazon Bedrockのコストに影響する4つの推論オプション
Four Amazon Bedrock inference choices that affect cost
AI による要約
Amazon Bedrockのキャッシュ期間、サービス階層、推論強度、maxTokensという4つのリクエスト単位の設定は、モデルやプロンプトを変えずに推論コストへ影響する。Claude Sonnet 5とClaude Opus 5を例にすると、5分キャッシュの書き込みは入力価格の1.25倍、1時間の書き込みは2倍、キャッシュ読み取りは0.1倍で課金され、1時間キャッシュは毎時3回以上のリクエストがないと割に合わない。
入選の記録
基準 60公式・一次情報1 回目 422 回目 34
入選せず二回の合計 76 < 基準の 2 倍 120
- 情報源の区分
- 公式・一次情報、この区分の基準は 60 点
- 予備審査
- 通過：详述Bedrock推理成本与缓存、推理参数等AI技术
採点はモデルが同じ基準で独立に二回行い、満点は 100。二回の合計が基準の 2 倍に届いたものだけが入選します。基準は情報源の区分ごとに決めています。
情報源：AWS Machine Learning Blog · aws.amazon.com