Hugging Face Blog·· 7 日前
Liquid AI、LFM2.5-VL-3Bを高速化する草稿モデルLFM2.5-VL-DSparkを公開
Accelerating vision-language models with LFM2.5-VL-DSpark
AI による要約
Liquid AIは視覚言語モデルLFM2.5-VL-3B向けの実験的DSpark草稿モデルLFM2.5-VL-DSparkを公開した。投機的デコードで品質を変えずに高速化し、デコードは端末で最大3.13倍、H100で2.66倍、全工程はそれぞれ最大2.62倍、2.27倍になる。
入選の記録
基準 60公式・一次情報1 回目 342 回目 38
入選せず二回の合計 72 < 基準の 2 倍 120
- 情報源の区分
- 公式・一次情報、この区分の基準は 60 点
- 予備審査
- 通過：发布视觉语言模型加速草稿模型，属AI技术
採点はモデルが同じ基準で独立に二回行い、満点は 100。二回の合計が基準の 2 倍に届いたものだけが入選します。基準は情報源の区分ごとに決めています。
情報源：Hugging Face Blog · huggingface.co