Instala tu propia IA privada en tu ordenador sin tarjeta gráfica (GPU) con Ollama y modelos pequeños

Aprende a tener un asistente de inteligencia artificial funcionando en tu propio ordenador, sin tarjeta gráfica, sin suscripciones y sin que tus datos salgan de tu equipo.

Trabajo con Ollama en mi propio proyecto, una plataforma de cursos de IA que funciona con un modelo local en un PC sin GPU. En clase lo montamos juntos en tu ordenador, compartiendo pantalla, y terminas con todo funcionando.

Primero vemos si tu equipo sirve (memoria RAM, procesador y disco) y qué velocidad puedes esperar. Después instalamos Ollama en Windows, macOS o Linux y elegimos un modelo pequeño, de entre 1.000 y 4.000 millones de parámetros, que funcione bien solo con el procesador. Aprenderás a usarlo desde la terminal y desde su aplicación de chat en Windows y macOS, y a ajustar el rendimiento con el tamaño del modelo, la cuantización y la longitud de contexto.

Si quieres ir más allá, creamos un asistente con tus propias instrucciones y lo conectamos a tus programas en Python a través de su API local.

Te sirve si tienes curiosidad por la IA y no quieres pagar ni registrarte en ningún servicio, si trabajas con datos que no deben subirse a la nube (docencia, sanidad, despachos, consultoría) o si estudias o programas y quieres empezar con modelos de lenguaje en local.

Necesitas un ordenador con 8 GB de RAM o más (con menos también se puede, usando modelos más pequeños) y conexión a internet para la descarga inicial. No hace falta saber programar.