AWS Machine Learning Blog· Kevin Shabahang·· 6 小时前
i14 的 Laplace 3B 线性注意力模型如何在 AWS Trainium2 上用原生 PyTorch 训练与推理
Beyond the KV cache: Training and serving i14’s Laplace 3B linear attention model on AWS Trainium2 with native PyTorch
AI 导读
i14 与 AWS 合作，通过 TorchNeuron Native 将线性注意力模型 Laplace 3B 移植到 AWS Trainium2，保留其 Gated Linear Attention 设计与 Muon 优化器。
入选记录
门槛 60官方一手第一次 42第二次 38
未入选两次之和 80 < 门槛的两倍 120
- 信源等级
- 官方一手，这一级的门槛是 60 分
- 预筛
- 通过：线性注意力模型训练与推理技术细节
评分由模型按同一份标准独立打两次，满分 100；两次之和达到门槛的两倍才入选。门槛按信源等级设定。
来源：AWS Machine Learning Blog · aws.amazon.com