LLM autoalojado en un VPS económico: Ollama y 7B–13B en 2026
Ejecute un LLM autoalojado en un VPS económico en 2026 con Ollama y llama.cpp. Dimensionamiento, cuantización y privacidad para modelos 7B–13B por menos de 20 $/mes.
Autoalojar un LLM en un VPS económico dejó de ser un hack de aficionados en 2026. Con cuantización Q4, un modelo 7B cabe en menos de 5 GB de RAM y un 13B cómodo en menos de 10 GB: ambos al alcance de un VPS pequeño que factura en cripto y nunca pide identidad.
Cuánta RAM necesita de verdad un modelo cuantizado
- ▹1–3B (Q4): ~2–4 GB — cabe en las instancias más pequeñas, inferencia CPU rápida.
- ▹7B (Q4_K_M): ~4.5–6 GB — el punto ideal para un servidor de usuario único.
- ▹13B (Q4_K_M): ~8–10 GB — buena calidad, tokens más lentos en CPU.
- ▹70B (Q4): ~40 GB — territorio de hardware dedicado, no de VPS económico.
Ollama vs llama.cpp en un servidor CPU
Ambos runtimes exponen un endpoint compatible con OpenAI. Ollama es el camino más rápido de la instalación a una API local funcional —un servicio en el puerto 11434, modelos por nombre. llama.cpp da control de más bajo nivel sobre hilos, tamaño de contexto y compresión de memoria cuando hay que exprimir una máquina lenta.
Un endpoint privado que sigue siendo suyo
La privacidad es estructural: los prompts y las respuestas nunca salen del servidor. Mantenga el endpoint del modelo atado a 127.0.0.1 y álcancelo por su propio túnel WireGuard en vez de exponerlo públicamente —el mismo patrón que para una nodo Monero o un endpoint RPC.