Hugging Face Blog·· 6 天前
Hugging Face 提出 HOPE：用二阶方法剪枝 MoE 专家
Your Experts Have Partners. There's HOPE for Keeping Them Together
AI 导读
Hugging Face 提出 HOPE（Higher-Order Pruning of Experts），一种考虑专家两两交互的二阶 MoE 专家剪枝方法。在 50% 剪枝率下，HOPE 取得所有方法中最佳平均排名，在智能体编程任务上比次优剪枝方法最高提升 +6.1%。
入选记录
门槛 60官方一手第一次 38第二次 34
未入选两次之和 72 < 门槛的两倍 120
- 信源等级
- 官方一手，这一级的门槛是 60 分
- 预筛
- 通过：MoE专家剪枝方法与实验，属AI模型技术
评分由模型按同一份标准独立打两次，满分 100；两次之和达到门槛的两倍才入选。门槛按信源等级设定。
来源：Hugging Face Blog · huggingface.co