Qwen3.8とGLM-5.2を比較 ローカル運用の必要メモリと選び方

手元のPCで使うなら、まず検討したいのはQwen3.8-27Bだ。GLM-5.2やQwen3.8の大型版は、自社サーバーで高性能なモデルを動かしたい場合の候補になる。同じ「ローカルLLM」でも、個人のPCと複数の計算機を使う環境では、選択の基準が大きく異なる。

この記事では、ローカルを「モデルの重みを自分の管理する計算機に置いて推論すること」として比較する。公開仕様に基づく比較であり、以下のメモリ概算は実機での測定値ではない。

Qwen3.8には27Bのモデルと、総パラメータ数2.4T・トークンごとの有効パラメータ数95Bの大型モデルがある。名前だけで比較すると、必要な計算資源も入力できるデータも取り違えやすい。

仕様の出典：Qwen3.8-27B公式モデルカード、Qwen3.8大型版公式モデルカード、GLM-5.2公式モデルカード。

特に注意したいのはQwen3.8-Maxのクラウド提供と公開重みの違いだ。公式カードはクラウド版の追加機能として画像入力などを挙げている。クラウド版の機能を、そのまま大型版のローカル実行で使えるとは考えられない。画像や動画を直接扱いたい場合は、公開カードで対応を明記している27B版が比較の入口になる。Qwen大型版の提供形態

MoEは、各トークンで使うパラメータの一部を選ぶ仕組みだ。有効パラメータ数が小さくても、すべての重みを保存する容量は必要になる。CPUメモリに一部を置けばGPUへの搭載量は減らせるが、転送が推論速度を制約し得る。

重みだけの容量は、単純化すると「パラメータ数 × 1パラメータ当たりのビット数 ÷ 8」で計算できる。量子化の付加情報、KVキャッシュ、実行時の作業領域は含まない。

GB・TBは十進表記。全パラメータを一律の精度で保存する仮定による計算で、配布ファイルの実サイズや起動に必要なメモリを示すものではない。

GLM-5.2の規模には集計範囲の違いもある。NVIDIAの変換検証では、MTP補助層を含むチェックポイントに約753.3Bの要素があり、補助層を除いたロード後のモデルは約743.4Bとなる。上表は前者を丸めている。NVIDIA Megatron Bridgeの検証記録

この計算から、27B版は量子化によって個人用計算機で検討できる規模に近づくと判断できる。ただし4bitの13.5GBを見て「16GBのGPUで必ず動く」とは言えない。実際の量子化形式、入力長、画像処理、GPUに置く層数によって必要量が増える。まず短い入力で起動と速度を確認し、実務の入力長まで段階的に伸ばすのがよい。

GLM-5.2はサーバー規模の計画が必要だ。具体例としてvLLM Ascendの手順は、BF16版に128GB × 8のAtlas 800 A3を2ノード、w4a8c8版にも同構成を1ノード挙げている。これはAscend向けの構成例で、他のGPU環境に共通する最低要件ではない。vLLM Ascendの構成例

両系列とも、コード生成だけでなく複数段階の作業を進める用途を重視している。ローカル運用で知りたいのは、最初の回答の見栄えより、修正・テスト・再試行まで含めて課題を完了できるかだ。

公開値の一例として、SWE-bench ProはQwen3.8-27Bが61.7、GLM-5.2が62.1となっている。しかしQwen側はClaude Codeと256Kのコンテキスト、GLM側はOpenHandsと400Kのコンテキストを使っている。差は0.4ポイントでも、モデル単体の僅差を示す直接対決にはならない。Qwenの評価条件、GLMの評価条件

さらに、Qwen大型版のカードに掲載された比較表はQwen3.8-Max名義だ。大型版の重みを量子化して自社のエージェントに接続した結果と同一視はできない。Qwen大型版の評価表

実務で比べるなら、同じリポジトリとタスクを渡し、利用できるツール、制限時間、合格条件を揃える。そのうえで推論設定と量子化精度を記録する。公開ランキングは候補を絞る材料になり、最終判断には自分の環境での完了率が必要になる。

100万トークンという上限だけでは、日本語の議事録や仕様書から必要な事実を拾えるかまでは分からない。入力を長くすれば、処理時間やキャッシュに使うメモリも判断対象になる。最大長に合わせて環境を組む前に、普段の文書を使うほうが比較しやすい。

例えば、同じ日本語の問い合わせ記録から「顧客の要望」「未解決事項」「次の担当者」を抽出させる。人名・日付・否定表現の保持、情報の抜け、指定したJSON形式への適合を採点すると、文章の流暢さだけに評価が偏りにくい。これは評価方法の提案で、両モデルの日本語性能の実測結果ではない。

画像入りの資料を扱う場合は、27B版の視覚入力を試す価値がある。一方、テキスト専用モデルにはOCRなどで抽出した文章を渡す設計が必要だ。その比較では、文字認識の失敗とモデルによる解釈の失敗を分けて記録したい。

重みを自分で動かせば、費用の中心はAPIのトークン課金から、計算機・電力・保守・待ち時間へ移る。少ない依頼数で大型モデルのサーバーを確保すると、使っていない時間も費用になる。

比較する指標は「1回の生成の安さ」より「合格した作業1件当たりの費用」がよい。速く回答しても、修正や再実行が多ければ総時間は延びる。同じ理由で、推論に使う時間を短くする設定が、そのまま仕事全体の高速化になるとは限らない。

導入前には次の項目を同じ課題で記録すると判断しやすい。

• 合格条件を満たした割合と、必要だった再試行回数。
• 最初の応答までの時間と、課題を完了するまでの総時間。
• ピークのGPUメモリ・システムメモリと、同時処理時の変化。
• モデルのリビジョン、量子化形式、推論エンジンと設定。

個人のPCで日本語の文章作成や小規模なコード修正を始めるなら、Qwen3.8-27Bを最初の候補にするのが合理的だ。メモリ概算が小さく、画像入りの資料も同じモデルで試せるためである。購入や増設の前に、手持ちの環境で量子化版の対応と実用速度を確認したい。

自社サーバーで長文のテキスト処理や継続的な開発作業を担わせるなら、GLM-5.2が比較候補になる。大型Qwenより小さい重み規模でもサーバー級の資源が必要なので、実務の完了率と同時処理性能を測って投資を判断する。

Qwen3.8の大型版を選ぶ場面では、2.4Tの重みを扱う基盤と、独自ライセンスの条件が判断の前提になる。27B版のApache 2.0と同じ条件として扱わず、採用する配布物のライセンス本文を確認する必要がある。大型版のライセンス表記

ローカル運用での選択は、モデル名だけでは決まらない。使えるメモリに収まり、必要な入力を扱え、実際の仕事を許容できる時間で完了できるモデルを選ぶ。その入口として、個人用PCではQwen3.8-27B、サーバー運用ではGLM-5.2とQwen大型版を比較する、という順序が考えやすい。