総パラメータ9B・稼働2B——MoEで速度とコストを両立
検知。Moondream 3.1が公開された。モデル名は「moondream3.1-9B-A2B」。総パラメータ数9B、実際に稼働するアクティブパラメータは2Bというスペックだ。Mixture-of-Experts（MoE）アーキテクチャを採用することで、大規模モデルの性能と小規模モデルの推論コストを同時に実現している。MoEは推論時に全パラメータを使わず、入力に応じて必要なエキスパートのみを起動する設計であり、計算効率の向上に有効な手法として広く知られる。
Reddit/LocalLLaMAの投稿によると、Moondream 3.1は「高速かつ安価なデプロイを維持しながら、最先端の視覚推論と検出を実現する」と説明されている。ローカル環境での運用を前提としたコミュニティに向けて公開された点からも、エッジ・オンプレミス用途を強く意識した設計と考えられる。
4スキルをネイティブ対応——すべて構造化出力
Moondream 3.1が対応するスキルは以下の4種類だ。
- query：画像に対する質問応答
- detect：物体検出
- point：座標ポインティング
- caption：画像キャプション生成
これら4スキルはすべてネイティブ対応であり、いずれも構造化出力を返す。構造化出力とは、JSON等の機械可読フォーマットで結果を返す仕様を指す。下流のアプリケーションやパイプラインへの組み込みが容易になるため、実用上の利点は大きい。検出・ポインティングといった空間的タスクまでを単一モデルでカバーする点は、視覚言語モデルとしての汎用性を示している。
結論——数字は正直だ
稼働パラメータ2Bという数値が全てを語る。9Bのキャパシティを持ちながら推論時の計算量を2B相当に抑える設計は、コスト制約の厳しいローカル・エッジ環境において明確な優位性を持つ可能性がある。4スキルの構造化出力対応も、プロダクション組み込みの敷居を下げる実用的な判断だ。ただし、ベンチマーク数値・比較対象モデル・ライセンス条件等の詳細はソースに明記されていない。現時点で確認できるのはアーキテクチャ仕様とスキル一覧のみである。追加情報が公開され次第、検証が必要だ。
