Mistral、1兆パラメータのオープンソースモデルMistral Large 4を公開

2026年10月、Mistralは1兆パラメータモデルMistral Large 4を公開した。The Decoderの報道によると、同モデルは公開プレビューから3週間後にHugging Faceで重みを公開し、愛称はLe Chonk、総パラメータは約1兆、1ステップあたり520億を活性化する。テキストと画像を入力し、テキストとコードを出力する。報道は、コーディング能力でオープンソースモデルをリードする一方、全体としてはなお中国のモデルに後れを取るとしている。Hugging Face Blogの一次発表情報によると、同モデルはマルチモーダルMoEモデルで、総パラメータ約1T、活性化パラメータ49B、コンテキストウィンドウ1M tokens、FP8とNVFP4の2種類の公式重みで公開され、Mistral Ecosystem Open-Weight Licenseを採用する。当初の報道は1ステップあたり520億の活性化としていたが、その後の一次発表情報は活性化パラメータ49Bとしている。現在、モデルの重みは公開済みで、進展はオープンソース公開と性能の位置づけに集中している。

報道をもとに AI が作成 · 2 時間前に更新

連続した観測データがまだ足りないため、推移は描いていません。