Guía técnica · AIHARD
Requisitos de Ollama: mínimos, VRAM por modelo y disco
Requisitos de Ollama en 2026: mínimos sin GPU, qué modelos corren con 8, 16, 24 o 32 GB de VRAM, cuánto ocupa cada uno en disco y qué pide el tool calling.
Actualizado: 4 de octubre de 2026
¿Qué es Ollama y por qué importa el hardware?
Ollama es la herramienta más popular para correr modelos de lenguaje grande (LLMs) en local, con soporte para las familias actuales: Qwen 3.5, 3.6 y 3.8, Gemma 4, gpt-oss (los pesos abiertos de OpenAI), Muse Glimmer de Meta, DeepSeek, Mistral y decenas más. Su facilidad de instalación, su app de escritorio y su API compatible con OpenAI lo convierten en la puerta de entrada al mundo de la IA local. Un aviso: Ollama ofrece también modelos en la nube, con el sufijo -cloud (por ejemplo gemma4:cloud o gpt-oss:120b-cloud). Esos no se ejecutan en tu equipo: si lo que buscas es que los datos no salgan de la empresa, evita las etiquetas -cloud.
El rendimiento de Ollama depende casi exclusivamente del hardware: con la GPU correcta, la diferencia entre 5 tokens/segundo y 100 tokens/segundo marca la diferencia entre frustración y productividad.
Requisitos mínimos (solo CPU)
Ollama puede funcionar solo con CPU, sin GPU. Los requisitos mínimos son: cualquier CPU x86_64 o ARM64 moderna, 8 GB de RAM (16 GB recomendado) y 10-15 GB de espacio en disco para los primeros modelos.
El rendimiento en CPU es muy lento: pocos tokens por segundo incluso con modelos de 4-9B. Suficiente para experimentar, pero no para uso productivo.
Requisitos con GPU NVIDIA (recomendado)
Para rendimiento real con NVIDIA: controladores recientes con CUDA y una GPU con mínimo 8 GB de VRAM para trabajar cómodo con modelos pequeños.
En la práctica: con 8 GB, modelos de 4B (Qwen 3.5 4B, Gemma 4 E4B) a velocidad interactiva; con 16 GB, Qwen 3.5 9B y Gemma 4 12B con soltura y gpt-oss-20b (14 GB) con contexto moderado, y más rápido cuanto mayor sea el ancho de banda de la tarjeta; con 24 GB, los modelos densos de 27-31B. Qué tarjeta elegir en cada tramo está en la guía para elegir GPU.
Requisitos con GPU AMD (ROCm)
Ollama soporta GPUs AMD vía ROCm. En 2026 el soporte cubre las RX 7000 y las RX 9000 (RDNA4, desde ROCm 6.4; hoy ROCm va por la serie 7) — la RX 9060 XT de 16 GB es hoy una de las formas más baratas de conseguir VRAM suficiente para modelos medianos.
El rendimiento es comparable a NVIDIA en inferencia con Ollama y llama.cpp. Linux (Ubuntu LTS) sigue siendo la plataforma más fiable para ROCm; en Windows la compatibilidad depende del modelo concreto de GPU.
Modelos por VRAM disponible (2026)
Tamaños en Q4_K_M según la biblioteca de Ollama (octubre de 2026). A cada cifra hay que sumar el contexto, que también vive en la VRAM.
4-6 GB VRAM: Qwen 3.5 4B (3,4 GB) y Gemma 4 E4B (6,6 GB). Para pruebas y tareas simples.
8-10 GB VRAM: Qwen 3.5 9B (6,6 GB) y Gemma 4 12B (8 GB). El punto de entrada real: chat fluido y calidad decente.
16 GB VRAM (RTX 5060 Ti 16 GB, RX 9060 XT o RX 9070): todo lo anterior con contexto amplio y gpt-oss-20b (14 GB). Gemma 4 26B, de mezcla de expertos, ocupa 16-18 GB según la variante: en 16 GB va al límite y parte acaba en la RAM del sistema.
24 GB VRAM (RTX 3090): los modelos densos de 27-31B, hoy los más capaces que caben en un equipo: Qwen 3.6 27B (17 GB), Qwen 3.8 27B y Muse Glimmer 30B (18 GB), Gemma 4 31B (19-20 GB). Nivel suficiente para trabajo serio diario.
32 GB VRAM (RTX 5090, Radeon AI PRO R9700, Arc Pro B70): los de 27-31B con contexto largo, o Qwen 3.6 35B-A3B (23-24 GB).
48 GB o más (varias GPU o tarjetas profesionales): modelos de 70B y gpt-oss-120b (65 GB). Producción empresarial.
¿Cuánto pesa Ollama y cuánto ocupa cada modelo en disco?
Ollama en sí pesa poco: el instalador ronda 1 GB y la aplicación con su runtime ocupa entre 1 y 2 GB según el sistema. Lo que de verdad llena el disco son los modelos: cada uno se descarga completo y se queda en tu máquina.
En la cuantización Q4 que Ollama usa por defecto, los tamaños son: Qwen 3.5 9B ocupa 6,6 GB; Gemma 4 12B, 8 GB; gpt-oss-20b, 14 GB; los de 27-31B, entre 17 y 20 GB (Qwen 3.6 27B, Gemma 4 31B); y un 70B, unos 43 GB. Con dos o tres modelos instalados es fácil pasar de 50 GB, así que reserva al menos 100 GB de SSD si vas a experimentar — y que sea NVMe: la carga inicial del modelo a la GPU es lectura pura de disco.
Llamada de herramientas (tool calling) en Ollama: qué hardware pide
El tool calling (llamada de herramientas o function calling) permite que el modelo no solo responda texto: puede invocar funciones que tú defines — buscar en una base de datos, consultar una API, ejecutar una acción — y usar el resultado en su respuesta. Es la base de los agentes de IA y Ollama lo soporta de forma nativa en su API (parámetro 'tools', compatible con el formato de OpenAI).
No todos los modelos lo hacen igual de bien: en 2026, las familias con mejor tool calling en Ollama son Qwen 3.5 y 3.6, Gemma 4 y gpt-oss; Muse Glimmer de Meta está ajustado precisamente para agentes y uso de herramientas. Los modelos por debajo de 8-9B cometen más errores eligiendo herramientas o formateando argumentos.
En hardware, el tool calling no pide una GPU distinta, pero sí más contexto: cada herramienta definida y cada resultado intermedio consumen ventana de contexto, y el contexto vive en VRAM (la caché KV). Para un uso con varias herramientas y conversaciones largas, recomendamos 16 GB de VRAM como base y modelos de 9B para arriba. Si montas agentes autónomos completos, mira la guía de requisitos de OpenClaw.
Preguntas frecuentes
¿Qué GPU necesito para Ollama en 2026?
Para modelos pequeños (Qwen 3.5 4B, Gemma 4 E4B), cualquier GPU de 8 GB. El punto dulce son las de 16 GB, como la RTX 5060 Ti 16 GB o la RX 9060 XT 16 GB, que mueven con holgura la clase 9-14B y gpt-oss-20b. Los modelos densos de 27-31B piden 24 GB, y los de 70B unos 48 GB en total (dos GPU de 24 GB o una profesional).
¿Cuáles son los requisitos mínimos de Ollama?
Sin GPU: una CPU x86_64 o ARM64 moderna, 8 GB de RAM (16 recomendado) y 10-15 GB de disco. Funciona, pero a pocos tokens por segundo — para uso real recomendamos una GPU de 8 GB o más.
¿Funciona Ollama sin GPU?
Sí, pero muy lento (pocos tokens por segundo en CPU). Para experimentar está bien; para uso productivo una GPU es imprescindible.
¿Cuánta RAM del sistema necesita Ollama?
Con GPU suficiente, 16 GB de RAM del sistema bastan. Si parte del modelo pasa a la RAM porque no cabe en la VRAM, necesitas tanta RAM como VRAM falte, más margen para el sistema operativo.
¿Soporta Ollama tool calling (llamada de herramientas)?
Sí, de forma nativa: la API de Ollama acepta el parámetro 'tools' con el mismo formato que OpenAI. Los modelos que mejor lo manejan son Qwen 3.5 y 3.6, Gemma 4 y gpt-oss. Para agentes con varias herramientas, recomendamos 16 GB de VRAM: el contexto extra que consumen las herramientas vive en la memoria de la GPU.
¿Puedo correr Ollama en Windows?
Sí, Ollama tiene instalador y app de escritorio para Windows con soporte CUDA. El rendimiento es equivalente a Linux para inferencia con NVIDIA. Para GPUs AMD y multi-GPU, Linux ofrece mejor soporte.
¿Quieres la IA local instalada y funcionando en tu oficina?
Elegimos el equipo para tu caso (Mini PC IA, Workstation IA o Servidor IA pyme), instalamos el modelo y lo dejamos funcionando, con una sesión de formación para tu equipo. Sin compromiso.
Relacionado en AIHARD
Prueba MercatiaNuestro asistente de IA en WhatsApp