Multiverse ComputingがQuantization-Aware Healingを提案、4-bit圧縮モデルが9項目中7項目でbfloat16版を上回る

入選の記録

入選二回の合計 124 ≥ 基準の 2 倍 120

情報源の区分

公式・一次情報、この区分の基準は 60 点

予備審査

通過：量化感知修复压缩4-bit大模型技术

推薦理由

圧縮と量子化後に元の教師モデルから直接蒸留する具体的な手順と9ベンチマークの比較を示し、4-bit配置の精度のトレードオフを判断できる。

採点はモデルが同じ基準で独立に二回行い、満点は 100。二回の合計が基準の 2 倍に届いたものだけが入選します。基準は情報源の区分ごとに決めています。