AWSブログ、Bedrockの推論コストに影響する4つの選択肢を解説
まずはこの出来事を
報道の要約
Amazon Bedrock 的缓存时长、服务层级、推理强度和 maxTokens 四项请求级设置会在不改模型和提示词的情况下影响推理成本。以 Claude Sonnet 5 和 Claude Opus 5 为例,5 分钟缓存写入按输入价 1.25 倍计费、1 小时写入 2 倍、缓存读取 0.1 倍,1 小时缓存需每小时至少 3 次请求才划算。
AWS Machine Learning Blog より
報道の時系列
報道をたどり、出来事のさまざまな面を知る。
11月13日
- AWS Machine Learning BlogAmazon Bedrockのコストに影響する4つの推論オプション
Amazon Bedrockのキャッシュ期間、サービス階層、推論強度、maxTokensという4つのリクエスト単位の設定は、モデルやプロンプトを変えずに推論コストへ影響する。Claude Sonnet 5とClaude Opus 5を例にすると、5分キャッシュの書き込みは入力価格の1.25倍、1時間の書き込みは2倍、キャッシュ読み取りは0.1倍で課金され、1時間キャッシュは毎時3回以上のリクエストがないと割に合わない。
この出来事の注目度の推移
現在の注目度 3·比較範囲のピーク 9(11月13日 07:00)·過去 24 時間の比較範囲での変化 -49%
推移は、途切れずに観測できた同じ主体どうしだけで比べるため、現在の注目度の集計より範囲が狭いことがあります。ポインタを動かすかグラフをクリックすると 1 時間ごとの注目度が見られます。キーボードでは左右の矢印キーで切り替えられます。