Hugging Face Blog·· 1 日前
Meta、816BパラメータのMoEマルチモーダルモデル「Muse Spark Open」をオープンソース化
Welcome Muse Spark Open: open-weight frontier multimodal mixture-of-experts model from Meta
AI による要約
Metaはオープンウェイトモデル「Muse Spark Open」を公開した。MoEアーキテクチャを採用し、総パラメータは約816B、トークンあたりのアクティブパラメータは約42B。テキスト、画像、音声、動画の入力に対応し、コンテキストウィンドウは最大100万トークン。
入選の記録
基準 60公式・一次情報1 回目 872 回目 88
入選二回の合計 175 ≥ 基準の 2 倍 120
- 情報源の区分
- 公式・一次情報、この区分の基準は 60 点
- 予備審査
- 通過：Meta开源多模态MoE大模型技术介绍
- 推薦理由
- Metaの816BパラメータMoEマルチモーダルモデルで、デプロイとファインチューニングのレシピが一式公開されており、ローカルとクラウドでの実行コストを評価できる。
- 同じ出来事
採点はモデルが同じ基準で独立に二回行い、満点は 100。二回の合計が基準の 2 倍に届いたものだけが入選します。基準は情報源の区分ごとに決めています。
情報源：Hugging Face Blog · huggingface.co