ローカルLLMを動かしてみたいんだけど、正直何を買えばいいのか分からないんだよね。グラボだけ見てればいいの？
(ZACK IT編集）
軸はグラボのVRAM容量だ。ただ、VRAMだけ見て組むと失敗する。最近のモデルはメインメモリ（RAM）の容量と帯域も効いてくるんだ。この記事で、VRAMの帯ごとにおすすめの構成と動かせるモデルまで一気に片付けよう。
ローカルLLMとは？クラウドAIとの違い
ローカルLLMとは、ChatGPTのような大規模言語モデル（LLM）を、クラウドではなく自分のPCの中で動かす使い方のことだ。データを外に送らないのでプライバシーを守りやすく、月額料金もかからず、ネットが切れても使える。まずはクラウドAIとの違いを整理しておこう。
| 項目 | ローカルLLM | クラウドAI |
|---|---|---|
| 料金 | 電気代のみ。月額料金なし | 月額課金が基本（無料枠は制限あり） |
| プライバシー | データはPCの外に出ない | 入力内容をサービス側に送信する |
| オフライン | ネットなしで動作する | ネット接続が必須 |
| モデルの選択 | 公開モデルを自由に入れ替えられる | 提供されるモデルに限られる |
| 性能の上限 | 自分のPCのスペック次第 | 大規模サーバーの性能を使える |
| 必要なもの | 相応のGPU／メモリを積んだPC | ブラウザだけでよい |
クラウドAIの手軽さは魅力的だが、「機密文書を読み込ませたい」「月額を払い続けたくない」「好きなモデルを試したい」という動機が出てきたら、ローカルLLMの出番だ。そしてローカルLLMの快適さを決めるのは、PCのスペック、とりわけGPUのVRAM容量である。ここから先は、その前提で構成を考えていく。
結論：構成は「VRAM帯」で決まる
結論から言うと、ローカルLLM向けPCの構成は、予算ではなくGPUのVRAM容量の帯で決めるのが正解だ。モデルの「重み」データをVRAMに載せきれるかどうかで、動くモデルの大きさと速度がほぼ決まるからだ。モデルの大きさは「9B」「27B」のようなパラメータ数（Bは10億単位）で表され、容量を節約するために数値を粗く丸める「量子化」を行ったものが一般向けに配布されている。よく使われる量子化「Q4」では、重みの容量はおおむね1パラメータあたり0.5GB強が目安になる。
まずは早見表を見てほしい。自分の狙う帯がどこかで、買うべきGPUの格が決まる。
| VRAM帯 | 快適に動くモデルの目安（Q4量子化） | 代表モデル | 向いている用途 |
|---|---|---|---|
| 8GB | 7〜9B級 | Qwen3.5-9B | チャット、要約、翻訳、まず試したい人 |
| 12〜16GB | 14B級が快適。20B級や小型MoEも視野 | Qwen3-14B、Gemma 4 12B、gpt-oss-20b | 日本語チャット、文書作成、コード補助 |
| 24〜32GB | 27〜32B級がフルGPUで快適 | Qwen3.8-27B、Gemma 4 31B | 長文読解、本格推論、RAG、検証用 |
| 統合メモリ128GB | 120B級のMoEまで載る | gpt-oss-120b、Qwen3.5-122B-A10B | 巨大モデルを1台で回したい人 |
表はあくまで目安だ。実際の使用量は、重みに加えて会話履歴を保持する領域（KVキャッシュ）や文脈（コンテキスト）長の設定でも増減する。それでも、VRAMに載せきれる範囲で一番大きなモデルこそが実用ラインという原則は変わらない。
パラメータサイズ別おすすめモデル
構成の話に入る前に、「どの帯で、どのモデルが動くのか」を具体名で押さえておこう。ここで挙げるのは、2026年11月時点で入手できる現行ラインナップだ。容量はQ4系量子化での目安で、会話の文脈を長く取る場合はこれにKVキャッシュ分が上乗せされる。
7〜9B級｜VRAM 8GBで快適な入門帯
| モデル | 必要メモリの目安 | 日本語 | 用途・備考 |
|---|---|---|---|
| Qwen3.5-9B | 約7GB | 強い | 現行の入門標準。画像・動画入力にも対応し、文脈は262Kまで取れる |
| Qwen3 Swallow 8B | 約5〜6GB | 日本語強化 | 東京科学大学と産総研による日本語追加学習版。英日翻訳や推論に強い |
| llm-jp-4.1-8b-thinking | 約5GB | 国産特化 | 国産モデルにこだわるならこれ。思考型の応答が特徴 |
| Gemma 4 E4B | 約4.5GB | 中〜強 | 軽さ優先の選択肢。ノートPCや8GB未満の環境にも |
この帯の本命は Qwen3.5-9B だ。8GBクラスのグラボでもQ4量子化で収まり、日本語の自然さと速度のバランスが取れている。最初の1本としても最適だ。
14B級｜VRAM 12〜16GBで「実用域」に入る帯
| モデル | 必要メモリの目安 | 日本語 | 用途・備考 |
|---|---|---|---|
| Qwen3-14B | 約9.3GB | 強い | 14B級の基準。前世代の32B級に迫る性能とされる |
| Gemma 4 12B | 約6.7GB（Q4） | 中〜強 | 画像・音声・動画を1モデルで扱える統合型。16GB機が公式の想定環境 |
| gpt-oss-20b | 約14GB | 中 | OpenAIの推論特化モデル。MoE構成で総21B／活性約3.6B。日本語強化版のGPT-OSS Swallow 20Bもある |
14B級になると、要約や文書作成の品質が目に見えて上がる。「8B級では物足りない」と感じた人の到達点として、最もコスパの良い帯だといえる。
32B級｜VRAM 24GB前後で本格派の帯
| モデル | 必要メモリの目安 | 日本語 | 用途・備考 |
|---|---|---|---|
| Qwen3.8-27B | 約17GB | 強い | 2026年8月登場の現行旗艦クラス。単体GPUで回る範囲では最有力 |
| Gemma 4 31B | 約17.5〜19GB | 中〜強 | Dense構成の品質重視モデル。24GBカードに収まる |
| Gemma 4 26B-A4B | 約14.4〜15.5GB | 中〜強 | MoE（活性3.8B）で応答が速い。16GBでは窮屈で24GBが快適 |
| Qwen3.6-35B-A3B | 約23GB | 強い | MoE（活性3B）。後述するRAM併用の話と相性が良い |
| Qwen3 Swallow 32B | 約20GB | 日本語強化 | 日本語の言い回しを重視するなら候補。国産のllm-jp-4.1-33b-thinkingも同帯 |
コード生成が主目的なら、Qwen3-Coder-30B-A3B のようなコード特化モデルもこの帯にある。用途が定まっている人は、汎用モデルと特化モデルを使い分けるのが賢い。
70B以上｜「載せる」こと自体がテーマの帯
| モデル | 必要メモリの目安 | 備考 |
|---|---|---|
| gpt-oss-120b | 約63GB | MoE（総117B／活性5.1B）。統合メモリ128GB機で実用速度が出る |
| Qwen3.5-122B-A10B | 約81GB | MoE。128GB級のメモリ環境が前提 |
| Llama 3.3 70B | 約40GB（Q4） | Denseの代表格。GPU複数枚か大量オフロードが前提になる |
この帯は「VRAMに載るか」だけでなく「帯域が足りるか」で実用性が決まる。詳しくは後のメモリの章で解説する。
VRAM帯別おすすめ自作PC構成
ここが本題だ。帯ごとに、GPUを軸にしたおすすめ構成を提示する。価格は変動が激しいため記載せず、型番からリンク先で確認してほしい。実質価格（ポイント還元込み）のチェックは得ピックスラボが日々更新しているので、そちらと併せて判断するのが確実だ。
入門構成｜VRAM 8GB：まず動かして慣れる
| パーツ | おすすめ | 狙い |
|---|---|---|
| GPU | PNY GeForce RTX 5060 8GB | Qwen3.5-9BをQ4で快適に。8B級全般が守備範囲 |
| メモリ | Crucial PRO DDR5-6000 16GB×2（32GB） | オフロードの逃がし先と他作業の余裕を確保 |
| SSD | WD_BLACK SN850X 2TB | モデルの読み込みを速く。容量も余裕あり |
| CPU／マザー | 現行の6コア級CPU＋対応チップセットで十分 | この帯ではCPUに予算を割く必要はない |
手持ちのゲーミングPCがこの帯なら、買い足しなしで始められる人も多いはずだ。まずはこの帯で「ローカルLLMのある生活」を体験し、不足を感じてから上を目指すのが失敗しない進め方である。
標準構成｜VRAM 16GB：一番おすすめの帯
| パーツ | おすすめ | 狙い |
|---|---|---|
| GPU（本命） | MSI GeForce RTX 5060 Ti 16G GAMING OC | 14B級が快適、gpt-oss-20bまで届く守備範囲の広さ |
| GPU（対抗） | GIGABYTE Radeon RX 9070 XT GAMING OC 16GD | 同じ16GB帯のAMD選択肢。ゲーム兼用ならこちらも有力 |
| GPU（上位） | ZOTAC GAMING GeForce RTX 5070 Ti SOLID OC | 16GBのまま演算性能を引き上げたい人向け |
| メモリ | G.Skill Trident Z5 RGB DDR5-6000 32GB×2（64GB） | 小型MoEのオフロードと長文脈に備える |
| SSD | WD_BLACK SN850X 2TB | 複数モデルの入れ替えが増える帯なので大容量を |
迷ったらこの帯だ。14B級の実用モデルがフルGPUで動き、20B級や小型MoEにも手が届く。ゲーム用途と兼用する自作PCの新調先としても、最もバランスが取れている。
本格構成｜VRAM 32GB：32B級をフルGPUで回す
| パーツ | おすすめ | 狙い |
|---|---|---|
| GPU | ASUS ROG ASTRAL GeForce RTX 5090 O32G GAMING | Qwen3.8-27BやGemma 4 31Bを余裕を持って実行 |
| メモリ | G.Skill Trident Z5 RGB DDR5-6000 32GB×2（64GB） | 35B級MoEのオフロード先として必須級 |
| SSD | WD_BLACK SN850X 2TB | 20GB級モデルを何本も抱える前提の容量と速度 |
| 電源 | 1000W級の余裕ある容量を確保 | ハイエンドGPUの過渡負荷に備える |
32B級のDenseモデルを「速く、静かに」回せるのはこの帯だけだ。長文の読解やRAG（自分の文書を読ませる使い方）を本格化させたい人の到達点になる。
統合メモリ構成｜グラボではなく「メモリ総量」で買う
| 項目 | おすすめ | 狙い |
|---|---|---|
| 本体 | GMKtec EVO-X2（Ryzen AI Max+ 395／メモリ128GB） | CPUとGPUがメモリを共有し、最大128GBをモデルに使える |
| 動かせるモデル | gpt-oss-120b、Qwen3.5-122B-A10B | 単体GPUでは載らない120B級MoEが実用速度で動く |
| 注意点 | メモリ帯域は約256GB/s。Denseな70B級は載っても遅い | 「載る」と「快適」は別。MoEとの相性で選ぶ構成 |
この構成は自作というより「完成品のミニPC」だが、考え方は自作PCの延長にある。VRAM＝RAMになる環境では、メモリ総量そのものがVRAMの代わりをする。メモリは後から増設できない機種がほとんどなので、買うなら最初から128GBモデルを選ぶこと。帯域の制約から、パラメータの大部分が眠るMoEとの相性が抜群に良い。
VRAMだけじゃない：RAM容量と帯域が効く理由
ここまでの話は「VRAMに載せきる」のが前提だった。しかし近年のモデル事情を見ると、VRAM一辺倒の設計では取りこぼす要素が増えている。とくに重要なのが、メインメモリ（RAM）の容量と帯域だ。
MoEモデルは「総パラメータが載る場所」を必要とする
最近の大型モデルに多いMoE（専門家の混合）構成は、トークンごとに一部のパラメータ（エキスパート）だけを活性化させる仕組みだ。gpt-oss-120bなら総117Bのうち活性は約5.1B、Gemma 4 26B-A4Bなら総26Bのうち活性は約3.8Bしかない。計算量は活性分だけで済む一方、重み全体はどこかに置いておく必要がある。その置き場所として、VRAMに入りきらない分をRAMに逃がす設計が成り立つのはこのためだ。MoE時代において、RAM容量は「第2のVRAM」として働く。
オフロードの速度は「帯域」で決まる
RAMに逃がした重みは、生成のたびに読み直される。つまりオフロード時の生成速度は、メモリ帯域にほぼ比例して決まる。帯域の序列を数字で見ると、設計の勘所が見えてくる。
| メモリの種類 | 帯域の目安 | 位置づけ |
|---|---|---|
| GDDR7（RTX 5090級） | 約1.7TB/s | VRAM本隊。最速 |
| GDDR6X（RTX 4090級） | 約1.0TB/s | 前世代ハイエンドのVRAM |
| LPDDR5X-8000（統合メモリ） | 約256GB/s | Ryzen AI Max+ 395など。容量と帯域の中間 |
| DDR5-6000（2チャンネル） | 約96GB/s | 通常のメインメモリ。オフロード先としては最も遅い |
Denseな70B級モデルを統合メモリ機で動かすと、重み約40GBを毎トークン読み直すため、256GB/sの帯域では理論上も毎秒6トークン前後が天井になる。一方でMoEなら読む量は活性分だけで済むため、同じ帯域でも実用速度が出る。「載るかどうか」は容量、「快適かどうか」は帯域。この2つを分けて考えることが、失敗しない構成の条件だ。
推論エンジン側の工夫：Strataのような存在
エンジン側も進化している。たとえば新興の推論エンジン「Strata」のように、システムメモリ側に置いた重みを前提に、読み込みと計算の受け渡しを最適化する設計も登場してきた。llama.cpp系ツールでもGPUオフロードの割合を細かく調整できるのが普通で、「VRAMに全部載せるか、諦めるか」の二択ではなくなっている。エンジンの選択肢が増えた今、RAMを太くしておくことは、将来の選択肢を広げる投資にもなる。
KVキャッシュと文脈長：長い文脈はメモリを食う
近年のモデルは262Kトークンのような長い文脈を売りにするが、会話履歴を保持するKVキャッシュは文脈を伸ばすほど膨らむ。VRAMが重みで埋まっている構成では、長い文脈を取る余地はRAM側の余裕に依存する場面も出てくる。長文読解やRAGを狙うなら、RAM 64GBを基準に考えるのが無難だ。
CPUコア数とSSD速度も地味に効く
- CPU：オフロードを併用すると、プロンプト処理（最初の読み込み計算）の一部をCPUが担う。コア数が少ないと、応答の出だしがもたつく原因になる
- SSD：モデルファイルは1本で6GB〜80GB超。読み込みの待ち時間はNVMeの速度に直結するし、複数モデルを使い分けるなら容量も必要だ。Gen4級のNVMe SSDを基準にしたい
導入手順：ツール選びから初回チャットまで
構成が決まったら、あとは動かすだけだ。手順の大枠はどの帯でも変わらない。
STEP1：実行ツールを選ぶ（迷ったらLM Studio）
- LM Studio：画面操作（GUI）でモデルを探してダウンロードし、そのままチャットできる入門向け。Windows / Mac / Linux対応
- Ollama：コマンド操作（CLI）中心の軽量ツール。他のアプリや自作プログラムからの連携に強い
どちらも無料で、裏側では llama.cpp 系のエンジンが動いている。まず触ってみたい人はLM Studioが無難だ。
STEP2：自分のVRAMを確認する
タスクマネージャーの「パフォーマンス」タブでGPUを選ぶと「専用 GPU メモリ」にVRAM容量が表示される。NVIDIA製GPUなら、ターミナルで nvidia-smi を実行しても確認できる。買い替えを検討する前に、まずこの数字を把握しておこう。
STEP3：最初のモデルを入れる
自分の帯に合ったモデルを1本だけ入れるのがコツだ。8GB帯ならQwen3.5-9B、16GB帯ならQwen3-14BかGemma 4 12B、というように、早見表の代表モデルから選べば外さない。配布形式は「GGUF」が主流で、ツール内の検索からそのまま取得できる。量子化はQ4_K_M表記のものが容量と品質のバランスが良い。
STEP4：日本語で話しかけて速度を見る
モデルを読み込んだら日本語で質問してみよう。役割指示（システムプロンプト）で「あなたは日本語アシスタントです」と与えると応答が安定しやすい。多くのツールは生成速度（トークン／秒）を表示するので、初回の数字を「自分の環境での基準値」としてメモしておくと、設定変更やパーツ強化の効果が測れる。
⚠つまずきポイントと対処法
1. 動作が極端に遅い・モデルが読み込めない
多くはメモリ不足が原因だ。対処の順番は、(1) 量子化の段位を下げる、(2) モデルを一回り小さくする、(3) 文脈長を短くする、の3つだ。オフロード併用時に極端に遅い場合は、帯域の章で見たとおり構造的な限界の可能性もある。タスクマネージャーでGPUが使われていない場合は、ドライバの更新とツールのGPU設定を確認しよう。
2. 日本語が不自然・英語で返ってくる
モデル側の日本語対応の差が出やすいポイントだ。日本語の評価が高いファミリー（Qwen系やSwallow系）に替える、システムプロンプトで日本語応答を明示する、の2点で改善することが多い。
3. 応答が途中で止まる・長い会話で壊れる
文脈長を使い切っている可能性がある。新しいチャットを開くか、文脈長の設定を広げよう。その分メモリ消費は増えるので、早見表と相談だ。
まとめ
ローカルLLM向け自作PC構成の要点は次の3つだ。
- 構成は予算ではなくVRAM帯で決める。迷ったら16GB帯が守備範囲とコスパの最適点
- モデル選びは帯ごとに具体名で考える。8GB帯はQwen3.5-9B、16GB帯はQwen3-14B／Gemma 4 12B、32GB帯はQwen3.8-27B／Gemma 4 31B、巨大モデルは統合メモリ128GB機でgpt-oss-120b
- VRAMだけでなくRAMの容量と帯域まで設計する。MoEとオフロードが当たり前になった今、RAMは第2のVRAMだ
パーツの実質価格（ポイント還元込み）は日々変動する。主要パーツの実質価格は得ピックスラボで日々更新されているので、購入直前の確認はそちらが確実だ。構成の総額やバランスを試すなら、自作PCシミュレーター（得ピックスラボ）も併用すると失敗が減る。まずは手持ちのPCで小さく始めて、不足を感じた部分だけを帯の考え方で強化していくのが、ローカルLLMとの正しい付き合い方だといえる。
