Guía técnica · AIHARD
Qué GPU comprar para IA local: guía por VRAM y presupuesto
Comparativa 2026 de GPUs para correr LLMs en local: cuánta VRAM necesita cada modelo (de 8 a 32 GB), CUDA o ROCm, ancho de banda y qué tarjeta elegir.
Actualizado: 4 de octubre de 2026
¿Por qué la GPU es clave para correr IA localmente?
Los modelos de lenguaje abiertos actuales (Qwen 3.5 y 3.6, Gemma 4, gpt-oss o Muse Glimmer de Meta) mueven enormes cantidades de datos entre la memoria y los núcleos de cómputo. La GPU es el componente más crítico porque tiene miles de núcleos paralelos y una memoria de muy alta velocidad (VRAM) diseñada exactamente para esta carga de trabajo.
Una CPU puede correr modelos pequeños, pero será entre 10x y 50x más lenta que una GPU equivalente. Para inferencia en tiempo real o uso productivo, una GPU dedicada no es opcional.
VRAM: el parámetro más importante
La VRAM (memoria de vídeo) determina qué tamaño de modelo puedes cargar completamente en GPU. Si un modelo no cabe en la VRAM, la parte que sobra pasa a la RAM del sistema o al disco y la velocidad cae drásticamente.
Como referencia, en la cuantización estándar (Q4_K_M) Qwen 3.5 9B ocupa unos 6,6 GB, gpt-oss 20B unos 14 GB, los modelos de 27-31B entre 17 y 20 GB y un 70B unos 43 GB. La lista completa por modelo y tramo de VRAM está en la guía de requisitos de Ollama. A eso hay que sumar el contexto (la memoria de trabajo de la conversación): cuanto más largo, más VRAM extra. Puedes calcular tu caso exacto con la calculadora de VRAM para LLMs.
La cuantización (Q4, Q5, Q8) reduce el tamaño del modelo a costa de algo de calidad. Con 16 GB de VRAM corres con holgura la clase 9-14B y gpt-oss-20b (14 GB); Gemma 4 26B, de mezcla de expertos, ocupa 16-18 GB según la variante y en 16 GB va al límite, con parte del modelo en la RAM del sistema. Los modelos densos de 27-31B, que hoy son los más capaces que caben en un solo equipo, piden 24 GB o más.
CUDA vs ROCm: ecosistema de software
La gran mayoría de frameworks de IA (PyTorch, llama.cpp, Ollama, ComfyUI) siguen optimizados para CUDA, la plataforma de NVIDIA. Las GPUs AMD usan ROCm, que en 2025-2026 ha dado un salto real: las RX 9000 (RDNA4) tienen soporte oficial desde ROCm 6.4 (hoy va por la serie 7), y Ollama y llama.cpp funcionan bien con ellas, especialmente en Linux.
Si priorizas máxima compatibilidad con cualquier herramienta: NVIDIA sigue siendo la opción segura. Si tu uso es Ollama/llama.cpp y quieres la máxima VRAM por euro: las AMD actuales de 16 GB son la mejor compra de 2026.
Qué tarjeta elegir según la VRAM (2026)
Los precios de las tarjetas gráficas se han disparado en 2026 por el encarecimiento de la memoria: a finales de agosto la RTX 5090 superaba de media los 6.200 € en España. Por eso aquí ordenamos por VRAM, que es lo que decide qué modelos puedes usar. Las tarjetas de producto de esta página muestran las que tenemos en stock hoy; el precio del día se ve al entrar con tu cuenta.
Entrada, 8 GB (RTX 3050, RTX 5050, RTX 5060): modelos pequeños como Qwen 3.5 4B o Gemma 4 E4B, para empezar y aprender. Con 8 GB no pases de esa clase.
La mejor compra, 16 GB (RX 9060 XT 16 GB o RTX 5060 Ti 16 GB): la clase 9-14B con holgura. Las dos existen también con 8 GB; para IA elige siempre la de 16 GB.
16 GB con más ancho de banda (RX 9070 o 9070 XT, RTX 5070 Ti, RTX 5080): los mismos modelos con bastantes más tokens por segundo. La RTX 5080 es una de las dos tarjetas de nuestra Workstation IA; la otra es la RTX PRO 2000.
24 y 32 GB, para la clase 27-31B: una RTX 3090 de segunda mano (24 GB) sigue siendo la vía más barata. Con 32 GB, las tarjetas profesionales AMD Radeon AI PRO R9700 (1.299 dólares de precio oficial) e Intel Arc Pro B70 (949 dólares de lanzamiento) cuestan hoy bastante menos que una RTX 5090. La de Intel usa su propio ecosistema (oneAPI, OpenVINO): comprueba que tu herramienta la soporta antes de comprar. Para uso empresarial continuo, mira la guía de GPU gaming o profesional.
Otros factores a considerar
Ancho de banda de memoria: tan importante como la cantidad de VRAM, porque marca los tokens por segundo. Ejemplos 2026: RTX 5060 Ti ~448 GB/s, RX 9070 XT ~640 GB/s, RTX 5070 Ti ~896 GB/s, RTX 5090 ~1.800 GB/s. A igual VRAM, más ancho de banda = respuestas más rápidas.
Consumo eléctrico: una RTX 5090 puede superar los 500W bajo carga; una RX 9070 XT ronda los 300W y una RTX 5060 Ti los 180W. Dimensiona la fuente con margen (índice 80 Plus Gold y 200W por encima del consumo pico del equipo) y cuida la ventilación.
Multi-GPU: dos GPUs no dan el doble de velocidad de inferencia, pero permiten cargar modelos que no caben en una sola. Dos tarjetas de 16 GB son una alternativa real a una de 32 GB en presupuesto.
Preguntas frecuentes
¿Qué GPU necesito para correr Ollama en local?
Para modelos pequeños (Qwen 3.5 4B, Gemma 4 E4B) basta una GPU de 8 GB. El punto dulce son las de 16 GB, como la RTX 5060 Ti 16 GB o la RX 9060 XT 16 GB, que corren con holgura la clase 9-14B. Para los modelos de 27-31B (Qwen 3.6 27B, Gemma 4 31B) necesitas 24 GB, por ejemplo una RTX 3090 de segunda mano, o una tarjeta de 32 GB.
¿Sirve una GPU AMD para IA local?
Sí, y en 2026 más que nunca: las RX 9000 tienen soporte oficial de ROCm (desde la versión 6.4; hoy va por la serie 7) y funcionan bien con Ollama y llama.cpp, sobre todo en Linux. La RX 9060 XT de 16 GB es la mayor VRAM por euro del mercado. Para PyTorch y frameworks avanzados, NVIDIA sigue ofreciendo la experiencia más pulida.
¿Cuánta VRAM necesito para modelos de IA?
Como regla general con cuantización Q4: 8 GB para modelos de hasta 4-8B, 16 GB para la clase 9-14B, 24 GB para los modelos densos de 27-31B y 48 GB o más para los de 70B. Puedes afinar tu caso con nuestra calculadora de VRAM.
¿RTX 5060 Ti de 8 GB o de 16 GB para IA?
Siempre la de 16 GB. Para juegos la diferencia es discutible; para IA es determinante: con 8 GB te quedas en modelos pequeños; con 16 GB entras en la clase 9-14B, donde la calidad de razonamiento cambia por completo. Lo mismo aplica a la RX 9060 XT.
¿Quieres la IA local instalada y funcionando en tu oficina?
Elegimos el equipo para tu caso (Mini PC IA, Workstation IA o Servidor IA pyme), instalamos el modelo y lo dejamos funcionando, con una sesión de formación para tu equipo. Sin compromiso.
Relacionado en AIHARD
Prueba MercatiaNuestro asistente de IA en WhatsApp