AssemblyAI、Amazon EC2 SpotでAWS上の音声認識推論コストを最適化
AssemblyAIはAWS上で、Amazon ECSにEC2 SpotとOn-Demandを組み合わせたGPUクラスタを用いて音声認識推論を運用している。Amazon SQSキューによる再試行機構でSpotの中断を吸収し、SLAを維持しながらコストを大幅に削減している。
AssemblyAIはAWS上で、Amazon ECSにEC2 SpotとOn-Demandを組み合わせたGPUクラスタを用いて音声認識推論を運用している。Amazon SQSキューによる再試行機構でSpotの中断を吸収し、SLAを維持しながらコストを大幅に削減している。
Amazon SageMaker AIの双方向ストリーミング推論に従量課金が加わった。モデルプロバイダーは、リアルタイムストリーム中の実際の利用量をAWS Marketplaceに報告できる。ローンチパートナーのDeepgramは、従量課金のSTTとTTSをAWS Marketplaceに導入する。計測記録は独立したメタデータ用WebSocket接続で送信され、SageMaker AIエンドポイントのインフラ費用は従来どおり別途発生する。
Hugging FaceのOpen ASR LeaderboardはLiva AIと提携し、エジプトとナイジェリアの2種類の英語アクセントの非公開評価データを追加した。エジプト・アクセントのデータは1.34時間、ナイジェリア・アクセントは1.55時間で、いずれも会話形式の自発音声であり、書き起こしには句読点、大文字小文字、非流暢語が含まれる。また、Kachruの三円モデルに基づくアクセント分類を新設し、米国と非米国、内円と外円・拡張円のアクセントを区別する。
Phonon は端末上でオフライン動作する小型 TTS モデル。約 65MB と 75MB の 2 バージョンを用意し、英語、フランス語、ドイツ語、スペイン語、ポルトガル語に対応、100 以上の音色を内蔵する。
AWSパートナーのCartesiaは、State Space Model(SSM)アーキテクチャに基づくリアルタイム音声AIを開発した。テキスト読み上げのSonicと音声認識のInkはいずれも最初のバイトまでの遅延が100ms未満で、Sonicは約90msで最初の音声バイトを出力する。
NVIDIAの社員がNemotron Voice Agentでハロウィン向けのインタラクティブ投影MonsterHouseを制作した。Nemotron ASRが聞き取り、Nemotron 3.5 Bolt E4B 4GBが対話、Magpie TTS Zeroshotが発話、Audio2Face-3Dが口の動きを担い、すべて1台のワークステーション上で動く。
Hugging Face は Swift パッケージ「AnySpeechRecognizer」と「AnyDecisionModel」を公開した。Apple プラットフォームの開発者がエンジンを選んで音声認識と意思決定タスクを実行できる。
IBM は Granite Switch 4.1.1 パッチ版を公開した。4.1 と完全な後方互換性があり移行は不要で、基盤モデルは再計算せずアダプターのみを更新した。今回の更新には、10 言語に対応し句読点と大文字小文字をネイティブに扱う Granite Speech ASR モデルと、Jev Decision Index テストセットで性能が向上した granitelib-core の Decision アダプターが含まれる。
NVIDIA はオープンウェイトモデル Nemotron 3.5 Transcribe を公開した。多言語の文字起こし、話者分離、翻訳、音声への質問応答を単一のチェックポイントに統合し、Hugging Face と ModelScope で提供を開始している。
NVIDIAはRTX Sparkの薄型軽量ノートPC向けに一連のアップデートを提供する。オープンウェイトの音声モデルNemotron 3.5 Transcribe、Liquid AIのLFM3シリーズモデルへの対応、NVIDIA AppでフォアグラウンドアプリとバックグラウンドAgentの間でGPUリソースを配分できる制御項目などが含まれる。
RetellはOpenAIのモデルを活用して月間1億通の通話を支えており、GPT-6 Astraは同社の音声エージェントベンチマークで首位となった。Codexは従業員1人当たり年換算160万ドルの売上実現にも貢献している。
AnimaはGPT-6とGPT-Liveを活用し、診療所の電話待ち時間を75%短縮するとともに、看護チームがOpenAIのモデルを利用できる範囲を拡大した。この仕組みにより、看護チームは患者への対応に一層の余力を持てるようになる。
自前でホストする TTS エンドポイントの自動スケーリング目標値を推測に頼る問題に対し、AWS は Amazon SageMaker AI のリアルタイムエンドポイントに 8200 万パラメータの Kokoro-82M をデプロイし、実測した Q_max(1 インスタンスが SLO 内で処理できる最大同時実行数)と T_total(スケールアウト 1 回のエンドツーエンド所要時間)から、スケールアウトしきい値、スケールインしきい値、2 つのクールダウン時間を算出した。
音声合成モデルKokoro-82MをAmazon SageMaker AIのリアルタイムエンドポイントでホストし、AIエージェントが生成した文を1文ごとに即座に合成に回すことで、応答全体の生成を待たずに音声の再生を始められるようにする。
Amazon Polly Generative エンジンがアップグレードされ、音声がより自然で正確になり、遅延も低減した。14 の新音声と 9 ロケールを追加し、ヒンディー語とフィンランド語の生成音声を初めて正式提供する。
IBMはGranite Speechシリーズを更新し、granite-speech-5.0-2bを新たに追加するとともに、granite-speech-5.0-470m-turboctcとgranite-speech-4.1-2b-plusを改訂した。
Mistralは音声モデル群Voxtral 3を発表した。50以上の言語に対応する文字起こしモデルVoxtral Small Transcribe 3と、4BパラメータのVoxtral Mini Transcribe 3を含む。
Deepgram は AWS と協力し、音声認識モデル Nova-3 を Trainium2 に移植した。コールセンター分析や医療文字起こしなどオフラインのバッチ処理が対象。最終構成では Amazon EC2 trn2.3xlarge インスタンス 1 台でモデルを 8 レプリカ動かし、1 ドル当たりの処理音声量は従来の計算基盤より 11%〜70% 多い。
IBMがGranite Switch 4.1を公開した。Granite-Switch-4.1-8Bと-30Bを含み、汎用意思決定aLoRA、安全意思決定Guardian aLoRA、OpenASRリーダーボードで最速のASRモデルGranite-Speech-5.0-Turbo-CTCを1つのモデルに組み合わせ、VRAM使用量はベースモデル単体とほぼ同等である。
HiggsfieldはGPT-6 AstraによりAI動画生成の長さを1分から10分以上へ延ばし、GPT-Image-2.5で画質を高め、GPT-Liveで音声付き映画制作の道も開いた。
アブダビの技術革新研究所(TII)は、1.6Bパラメータの音声認識モデル「Falcon-ASR」を発表した。アラビア語を主軸にアラブ首長国連邦方言に注力し、英語、フランス語、スペイン語、ポルトガル語にも対応する。
Amazon Bedrock AgentCore、Amazon Nova 2.5 Sonic、Amazon Bedrock Knowledge Bases を基盤に、航空会社のアプリに音声旅行アシスタントを構築できる。旅行者は音声で旅程を照会し、座席を変更し、食事の好みを更新し、有人オペレーターに転送できる。
Hugging Face は、客観的指標でオープンソース TTS モデルを評価する Open TTS Leaderboard を公開し、数週間の投票による評価を数時間に短縮する。Qwen3 ASR で WER/CER を算出し、H200 GPU で RTFx と TTFA を測定、WavLM 埋め込みで話者類似度 SIM を求め、多言語と音声クローンの比較に対応する。
AWSはSageMaker AIにQwen3-TTSを配置できるvLLM-Omni DLCを公開した。持続的な双方向接続1本で文字を入力しながら音声を出力し、生成が完了する前から再生を始められる。
Alibaba Cloud Qwenチームが公開したQwen3-TTS-12Hz-1.7B-BaseがAmazon SageMaker JumpStartで利用可能になった。フルマネージドのリアルタイム推論エンドポイントへ配置でき、数秒の参照音声と対応する文字だけで、再学習なしに声を複製する。
Google DeepMindはGemini 3.8 Live with Live Avatarを公開した。ネイティブなリアルタイム対話モデルにほぼリアルタイムの動画生成を加え、聞く、見る、話すことのできる動的な視覚アバターを実現し、本日からGemini Enterpriseで提供する。
AWSはOpenAI Whisperにバッチ推論、wav2vec2の強制アラインメントによる単語単位の時刻、話者分離を追加したWhisperX Deep Learning Containerを公開した。自作イメージなしで、Amazon SageMaker AIのリアルタイムまたは非同期エンドポイントへ配置できる。
Google DeepMindは音声生成モデルGemini 3.8 Flash TTSとGemini 3.8 Flash-Lite TTSを公開した。前者はキャラクター設計と行ごとの演技指示、後者は同時処理数の多い吹き替えと音声エージェント向けである。
Ringg の GPT-5.6 に基づく多言語 AI エージェントは、音声、チャット、WhatsApp、ウェブを通じて顧客の電話の最大65%を解決する。費用は GPT-4.1 より90%低い。
Google DeepMindはリアルタイム対話モデルGemini 3.8 LiveとGemini 3.8 Live Extended Thinkingを公開した。前者は規模と費用効率、後者は複雑な課題と多段階推論向けである。
OpenAIはAPIでGPT-Live-1を提供し、自然な全二重音声対話と、強化された指示追従、カスタム音声、電話への対応を実現する。
Voice Arena と Hugging Face は Open ASR Leaderboard に Monsoon en-IN と Monsoon hi-IN を追加した。Hindi はこの多言語ランキング初のインド言語となる。
Google DeepMindはGemini 3.5 Transcribeを公開し、現在最も正確な音声文字起こしモデルと説明した。生の音声を直接、正確で整形済みの文字に変換する。
Hugging Face は、音声認識のベンチマーク最適化を数値化するため、合意不一致プローブ、マスクした固有表現の検索、綴りの切り替えという三つのテストを提案した。11のオープンソース ASR モデルを評価し、一部の高得点モデルは音声が矛盾する場合、該当語が無音の場合、両方の表記が音声上成立する場合でも、VoxPopuli や LibriSpeech の正解転写の誤りを再現することを見つけた。
Google ResearchはGeminiとProject Astraを基盤にしたAMIE (Video)を公開した。リアルタイムの動画診療を行い、非言語的な手掛かりを捉え、仮想的な身体診察を案内できる。
NVIDIAは3億6400万パラメーターのオープンウェイト音声合成モデルMagpie TTS Multilingualを公開した。英語、スペイン語、フランス語、ドイツ語、イタリア語、ベトナム語、中国語、ヒンディー語、日本語に加え、新たな現代標準アラビア語、韓国語、ブラジルポルトガル語の計12言語に対応する。
Google DeepMindは新世代の音楽生成モデルLyria 3.5を公開し、Google Flow Musicで提供を開始した。音楽性、歌詞、歌声、創作の制御の4分野を改善したという。より複雑で自然な旋律構造、指示への追従と構造理解を改善した歌詞、感情表現と発音を改善した歌声、出力のリズムと長さの操作性向上を含む。
Humeは音声評価ベンチマークReal World VoiceEQを公開した。40超の専有・オープンソース音声モデル、15以上の評価軸、60超の指標を扱い、ASR、TTS、S2S、音声理解を対象とする。
Hugging Face と Cerebras はリアルタイム音声対音声パイプラインを共同で実演した。Cerebras で Gemma 4 31B の推論を加速し、Nvidia Parakeet の音声認識と Alibaba Qwen3TTS の音声合成をつなぐ。
Google DeepMind は Gemini 3.5 Live Translate を公開した。70超の言語に対応するほぼリアルタイムの音声対音声翻訳モデルで、言語を自動検出し、話者の抑揚、リズム、声の高さを保つ。