word2vec は何を学ぶか、Berkeley が定量予測できる学習理論
Berkeley の AI 研究チームは word2vec の学習過程を定量予測する初の理論を提案した。現実の訓練条件で非加重最小二乗の行列分解に帰着でき、勾配流の閉形式解があり、最終表現は目標行列 M* の PCA に等しい。小さな初期値では直交線形部分空間を離散段階ごとに学び、埋め込みのランクを上げ損失を減らす。その特徴は M* の上位固有ベクトルで、コーパス統計とハイパーパラメーターから事前計算できる。
すべての AI 動向
すべての AI 動向
今日 5 件9月1日
8月1日
Mistral、Pixtral-12Bの微調整で衛星画像の視覚言語性能を改善
MistralはLoRAでPixtral-12Bを微調整し、Aerial Image Dataset（AID）の衛星画像分類で未調整の基準を大きく上回り、幻覚による無効な分類名を減らした。Mistralの微調整APIかLaPlateforme UIを使い、大規模なハイパーパラメーター調整は不要だ。学習8000、テスト2000に分割した。
7月30日
Mistral、Codestral 25.08と企業向けコーディングスタックを公開
Mistral AIはCodestral 25.08と、Codestral、Codestral Embed、Devstral、Mistral Code IDEプラグインを含む企業向けの完全なコーディングスタックを公開した。
7月23日
Mistral AI、初のモデル全ライフサイクル環境研究でLarge 2の炭素負荷を公開
Mistral AIはCarbone 4と仏ADEMEと初のモデル全ライフサイクル分析を行った。2025年1月時点でLarge 2の学習と18か月の利用は20.4 ktCO₂e、水281000立方メートル、資源660 kg Sb eqを消費した。
7月17日
Mistral、Le ChatにDeep Researchや音声モードなどを追加
MistralはLe Chatに、プレビューのDeep Research、Voxtralによる音声モード、Magistralによる多言語推論、会話を整理するProjects、Black Forest Labsと協力した画像編集などを追加した。
7月15日
Mistral AI、音声理解 Voxtral、24B と3Bの二版を公開
Mistral AI は Voxtral を24B と3Bの二版で公開し、いずれも Apache 2.0 で自社 API でも提供した。32k トークンのコンテキストを持ち、最大30分の音声転写または40分の音声理解を扱う。質問応答・要約、多言語の自動検出、音声による関数呼び出しを内蔵し、文字の能力は Mistral Small 3.1 を継承する。
7月11日
Mistral AI、Devstral Mediumを公開しDevstral Small 1.1を更新
Mistral AIはAll Hands AIと共同でDevstral Mediumを公開し、Devstral Small 1.1を更新した。
7月3日
Mistral AI、各国政府の AI 主導権を支える AI for Citizens を公開
Mistral AI は政府と公的機関が AI で公共サービスを変え、革新と競争力を支える AI for Citizens 協力計画を公開した。公開モデル、自社運用、データ主権、個別開発を提供し、フランス、ルクセンブルク、シンガポール、オランダ、英国、スイスなどの政府・公的部門と連携している。
6月11日
Mistral AI、AI基盤サービスMistral Computeを公開
Mistral AIはGPU、編成、API、製品、サービスを含むプライベートな統合AI基盤Mistral Computeを公開した。ベアメタルサーバーからフルマネージドPaaSまで提供する。
6月10日
Mistral AI、初の推論モデル Magistral を公開
Mistral AI は初の推論モデル Magistral を公開した。24B パラメーターの公開版 Magistral Small と企業向け Magistral Medium がある。
6月4日
Mistral、企業向けAIコーディング助手Mistral Codeを公開
MistralはCodestral、Codestral Embed、Devstral、Mistral Mediumの4モデルを統合したAIコーディング助手Mistral Codeを公開した。クラウド、専用容量、ローカルのエアギャップGPUへ配置でき、コードは企業の境界内に留まる。
5月28日
Mistral AI、コード埋め込みモデルCodestral Embedを公開
Mistral AIは初のコード向け埋め込みモデルCodestral Embedを公開した。実際のコード検索でVoyage Code 3、Cohere Embed v4.0、OpenAIの大型埋め込みモデルを上回る。
5月27日
Mistral AI、内蔵コネクターと複数エージェント編成の Agents API を公開
Mistral AI は Agents API を公開した。自社言語モデルにコード実行、画像生成、文書ライブラリ、ウェブ検索のコネクターと MCP ツールを組み合わせ、会話をまたぐ永続記憶とエージェント編成を提供する。
5月21日
Mistral AIとAll Hands AI、エージェント型コーディングモデルDevstralを公開
Mistral AIとAll Hands AIはソフトウェア開発向けのエージェント型LLM Devstralを共同公開した。Apache 2.0のオープンソースだ。
5月7日
Mistral AI、低費用の企業配置を狙うMistral Medium 3を公開
Mistral AIはMistral Medium 3を公開し、複数のベンチマークでClaude Sonnet 3.7の90%以上の性能に達すると説明した。100万トークン当たり入力0.4ドル、出力2ドルである。
Mistral、Medium 3で動くLe Chat Enterpriseを公開
Mistralは新しいMistral Medium 3で動く企業助手Le Chat Enterpriseを公開した。企業検索、エージェント作成、独自データとツールのコネクター、文書庫、独自モデル、ハイブリッド配置などを備え、全機能が今後2週間で順次利用可能になる。
4月9日
Mistral、LLM as a JudgeでRAGを評価する方法
Mistralはjudge LLMがgenerator LLMの回答を数値、二値、定性的尺度で採点し、評価データの加重平均を取るRAG評価を提案した。
3月17日
Mistral AI、多モーダル・128k コンテキストの Mistral Small 3.1 を公開
Mistral AI は Mistral Small 3.1 を公開した。Small 3 から文字性能とマルチモーダル理解を高め、コンテキストを128k トークンに拡張し、推論は毎秒150トークン。Apache 2.0 で公開する。
3月7日
Mistral、文書理解のOCR API mistral-ocr-latestを公開
Mistral AIは画像とPDFを読み、文字と画像を順番に交互出力するMistral OCR APIを導入した。Le Chatの数百万人にとって既定の文書理解モデルになっている。
3月4日
Mistral AI、エージェントで PRD と開発チケットを自動生成
Mistral AI は TranscriptToPRDTicket を公開した。Mistral Large 2 による PRDAgent と TicketCreationAgent が会議の文字起こしから PRD を生成し、開発チケットへ変換して、Linear や Jira などに自動作成する。