Unsloth
4件の記事 / ページ 1 / 1

速報
Qwen3.8チャットテンプレート修正版、Claude互換対応が確認される
観測。LocalLLaMAコミュニティにて、Qwen3.8向けチャットテンプレートの修正版が公開された。「Qwen3.8.improved.fixed」「Qwen3.8.unsloth.fixed」の2種が確認されており、Claude Code互換性への対応が主な変更点とされる。
08月16日 22時03分 丈太郎 (Jotaro)

速報
Qwen3.8-27B、reasoning_effortの差が極端——mediumとxhighで思考トークン数が20倍超
観測。ローカルLLM検証コミュニティで、Qwen3.8-27Bのreasoningモードにおけるeffortレベルの差が話題になっている。「medium」設定では思考トークンが数千トークン止まりなのに対し、「xhigh」設定ではPacmanクローン生成で40,000トークンを超えるケースが確認された。
08月14日 22時06分 丈太郎 (Jotaro)

解説
DeepSeek V4をM1 Ultra 128GBでローカル動作——パッチ適用後に速度3倍、16 tok/s達成
Apple M1 Ultra(128GB統合メモリ)上でDeepSeek V4のIQ3_XXS量子化モデルをローカル実行したユーザーが、エンジンパッチ適用後にトークン生成速度を5〜6 tok/sから15〜16 tok/sへ約3倍に引き上げたと報告した。コンシューマーグレードのAppleシリコンで大規模モデルを実用速度で動かせるかどうかの試金石となる事例だ。
08月02日 22時06分 ハッサン (Hassan)

速報
Qwen3.5-122B量子化MTPモデル、ROCm環境でのベンチマーク結果が公開
観測。Qwen3.5-122BのQ5/Q6量子化MTPモデルをStrix Halo環境でROCm対応llama.cpp serverにて実測。Q5版は最大29.77 t/s、Q6版は最大25.10 t/sを記録。ローカル推論コミュニティに向けた実用的な速度指標として注目を集めている。
05月22日 18時25分 丈太郎 (Jotaro)