格安VPSで自己ホストLLM：2026年のOllamaと7B–13B
Ollamaとllama.cppで2026年に格安VPS上で自己ホストLLMを運用。月20ドル未満で7B–13Bモデルを動かすサイジング、量子化、プライバシー。
格安VPSでの自己ホストLLMは、2026年には趣味のハックではなくなりました。Q4量子化なら7Bモデルは5GB未満、快適な13Bも10GB未満のRAMに収まります。どちらも暗号通貨で請求し、決して身元を尋ねない小さなVPSの射程に入ります。
量子化モデルに本当に必要なRAM
- ▹1–3B (Q4)：約2–4GB — 最小インスタンスに収まり、CPU推論も高速。
- ▹7B (Q4_K_M)：約4.5–6GB — シングルユーザーサーバーの理想点。
- ▹13B (Q4_K_M)：約8–10GB — 品質良好、CPUではトークンが遅め。
- ▹70B (Q4)：約40GB — 専用ハードウェアの領域であり、格安VPSではない。
CPUサーバーでのOllama対llama.cpp
どちらのランタイムもOpenAI互換のエンドポイントを公開します。Ollamaはインストールから動作するローカルAPIまでの最短ルートです——ポート11434のサービス、名前によるモデル読み込み。llama.cppは、遅いマシンを絞り出したいときに、スレッド数・コンテキストサイズ・メモリ圧縮の低レベル制御を提供します。
あなたのものであり続けるプライベートエンドポイント
プライバシーは構造的です：プロンプトも回答もサーバーを離れません。モデルエンドポイントを127.0.0.1に縛り、公開せずに自分のWireGuardトンネルで到達します——MoneroノードやRPCエンドポイントと同じパターンです。