跳到正文
原文
AWS Machine Learning Blog· Shubham Gupta·· 1 天前

ArisGlobal 如何在 Amazon Bedrock 上扩展生成式 AI 推理

How ArisGlobal scaled generative AI inference on Amazon Bedrock

AI 导读

ArisGlobal 在 Amazon Bedrock 上为生命科学 AI 引擎 NavaX 调整提示词缓存顺序,把共享提示词前缀而非单份源文档放入缓存,从而降低有效输入成本并支持更多租户而不成比例增加成本。

入选记录

未入选两次之和 72 < 门槛的两倍 120

信源等级
官方一手,这一级的门槛是 60 分
预筛
通过:生成式AI推理优化与Bedrock缓存实践

评分由模型按同一份标准独立打两次,满分 100;两次之和达到门槛的两倍才入选。门槛按信源等级设定。

来源:AWS Machine Learning Blog · aws.amazon.com