観測。Qwen3.5-122BのQ5/Q6量子化MTPモデルをStrix Halo環境でROCm対応llama.cpp serverにて実測。Q5版は最大29.77 t/s、Q6版は最大25.10 t/sを記録。ローカル推論コミュニティに向けた実用的な速度指標として注目を集めている。

ローカルLLMを本気で日常使いしたい人へ朗報やで。RTX Pro 5000 BlackwellとStrix Haloを組み合わせた化け物マシンで、Qwen3.6の35bと27bを同時並走させるOSSランチャー「Warpdrv」がGitHubに公開された。個人開発なのにMCPやモデルルーターまで搭載という本気っぷりが話題を呼んでいる。

AMDのRyzen AI Max+ 395を搭載し、128GBの統合メモリを備えるデスクトップ筐体「Halo Box」の実機写真がRedditに投稿された。Ubuntu動作確認済みのデモ機であり、プログラマブルなLEDライトストリップも確認されている。ローカルLLM用途を狙った高帯域幅メモリ統合アーキテクチャの実態を冷静に検証する。