MoE
5件の記事 / ページ 1 / 1
Moondream 3.1発表：9B総パラメータ・2B稼働のMoE視覚言語モデル
速報。Moondream 3.1が公開された。総パラメータ9B、稼働パラメータ2BのMixture-of-Experts（MoE）アーキテクチャを採用した視覚言語モデルだ。クエリ・検出・ポインティング・キャプションの4スキルをネイティブ対応し、すべて構造化出力を返す設計である。高速かつ低コストなデプロイを両立した点が特徴だ。
Tencent HY3、128GBのMac M5 Maxで動かしてみた話
Tencentが投入した295B-A21B MoEモデル「HY3」が、オープンウェイトモデルの最前線に食い込んできた。Reddit上のレポートによれば、MacBook M5 Max 128GBで107GBのquantを実際に動かすことに成功。DeepSeek V4 Flashと比較しながら、そのセットアップ手順と所感が詳しく共有されている。
完全ローカルで動くリアルタイム音声チャットボット——Qwen3.5-397BとOrpheusで構築
数ヶ月の個人開発の末、完全ローカル動作のリアルタイム音声対話チャットボットが完成に近づいた。SSEストリーミングによる低遅延、会話割り込み対応、24GB GPU上での動作——その技術構成と実装の要点を整理する。
WebGLでリアルタイムに人間の顔を生成——ローカルAIが見せた驚きの実力
「ローカルで動くAIがWebGLのコードを書いて、リアルタイムにリアルな人間の顔を描画する」——そんな光景がRedditに投稿され、話題を集めています。使われたのはQwen3.5-122B-A10Bという大規模言語モデル。いったい何が起きているのか、初心者にもわかるように丁寧に解説します。
Sarvam MoEがllama.cppに対応：インド語22言語対応の30B/105Bモデルをローカル実行へ
インドのAIスタートアップSarvamが開発したMixture-of-Expertsモデル「Sarvam-30B」および「Sarvam-105B」が、llama.cppへのアーキテクチャ統合PRを通じてローカル実行環境への対応を進めている。22のインド言語に対応し、リソース制約環境での実用展開を主眼に設計された点が特徴だ。