LLM auto-hébergé sur un VPS pas cher : Ollama et 7B–13B en 2026
Faites tourner un LLM auto-hébergé sur un VPS pas cher en 2026 avec Ollama et llama.cpp. Dimensionnement, quantisation et confidentialité pour des modèles 7B–13B pour moins de 20 $/mois.
Auto-héberger un LLM sur un VPS pas cher n'est plus un bricolage d'amateur en 2026. En quantisation Q4, un modèle 7B tient dans moins de 5 Go de RAM et un 13B confortable dans moins de 10 Go : les deux à portée d'un petit VPS qui facture en crypto et ne demande jamais d'identité.
La RAM dont un modèle quantisé a vraiment besoin
- ▹1–3B (Q4) : ~2–4 Go — tient sur les plus petites instances, inférence CPU rapide.
- ▹7B (Q4_K_M) : ~4,5–6 Go — le point idéal pour un serveur mono-utilisateur.
- ▹13B (Q4_K_M) : ~8–10 Go — bonne qualité, tokens plus lents sur CPU.
- ▹70B (Q4) : ~40 Go — territoire du hardware dédié, pas d'un VPS pas cher.
Ollama vs llama.cpp sur un serveur CPU
Les deux runtimes exposent un endpoint compatible OpenAI. Ollama est le chemin le plus rapide de l'installation à une API locale fonctionnelle — un service sur le port 11434, des modèles chargés par nom. llama.cpp donne un contrôle de plus bas niveau sur les threads, la taille de contexte et la compression mémoire quand il faut faire rendre gorge à une machine lente.
Un endpoint privé qui vous appartient
La confidentialité est structurelle : les prompts et réponses ne quittent jamais le serveur. Gardez l'endpoint modelé lié à 127.0.0.1 et atteignez-le via votre propre tunnel WireGuard plutôt que de l'exposer publiquement — le même schéma que pour un nœud Monero ou un endpoint RPC.