AWS Machine Learning Blog· Sai Pavan Kasani·· 3 天前
影响 Amazon Bedrock 成本的四个推理选项
Four Amazon Bedrock inference choices that affect cost
AI 导读
Amazon Bedrock 的缓存时长、服务层级、推理强度和 maxTokens 四项请求级设置会在不改模型和提示词的情况下影响推理成本。以 Claude Sonnet 5 和 Claude Opus 5 为例,5 分钟缓存写入按输入价 1.25 倍计费、1 小时写入 2 倍、缓存读取 0.1 倍,1 小时缓存需每小时至少 3 次请求才划算。
入选记录
门槛 60官方一手第一次 42第二次 34
未入选两次之和 76 < 门槛的两倍 120
- 信源等级
- 官方一手,这一级的门槛是 60 分
- 预筛
- 通过:详述Bedrock推理成本与缓存、推理参数等AI技术
评分由模型按同一份标准独立打两次,满分 100;两次之和达到门槛的两倍才入选。门槛按信源等级设定。
来源:AWS Machine Learning Blog · aws.amazon.com