Cómo usar modelos de IA en tu ordenador con Ollama y LM Studio

En agosto de 2025 OpenAI lanzó sus modelos de código abierto: GPT-OSS 120B y GPT-OSS 20B. La «B» viene de billions, miles de millones de parámetros, y la diferencia es que uno es mucho más grande que el otro, así que rinde bastante mejor. Se pueden descargar gratis y usar en tu ordenador con total privacidad, algo que no tienes cuando usas la aplicación de ChatGPT.

Un detalle importante es su licencia Apache 2.0: además de descargarlos gratis, puedes construir aplicaciones sobre ellos y venderlas sin problema. Según OpenAI, el 120B está más o menos al nivel de o4-mini y el 20B, al de o3-mini.

OpenAI publicó la web gpt-oss.com, donde puedes hablar con los dos modelos en su nube. Ahí no son privados, porque estás conectado a los servidores de OpenAI, pero sirve para ver lo listos que son antes de descargarlos. Contestan como ChatGPT, puedes elegir el nivel de razonamiento (bajo, medio o alto) y decidir si quieres ver su cadena de razonamiento.

Hasta hace poco había dos caminos: ejecutar el modelo en la terminal, que no es una forma muy agradable de conversar, o instalar Open WebUI para darle una interfaz parecida a la de ChatGPT. Ahora hay una opción mucho más sencilla: Ollama, una aplicación para ejecutar modelos de IA en tu ordenador.

1. Entra en ollama.com, pulsa Download y elige Mac, Linux o Windows. La instalación tarda unos 5 o 10 minutos.
2. Se abre una interfaz muy parecida a la de ChatGPT. En el cuadro central, abre la lista de modelos.
3. Elige un modelo y escríbele, por ejemplo, «hola». Si no lo tenías, empieza a descargarse solo; cuando termina, ya puedes hablar con él.
4. Una vez descargado, funciona sin conexión: podrías usarlo hasta en un avión.

Por eso me descargué modelos más pequeños. Uso Gemma 3 de 4B: es menos potente que los modelos de ChatGPT, pero me resuelve bastantes dudas del día a día cuando no tengo internet. El de 1B se descarga muy rápido; el GPT-OSS 20B tardará más, según tu ordenador y tu conexión.

En la web de Ollama, en Models, están todos los que puedes descargar. Cuando grabé el vídeo, los GPT-OSS eran los más populares y el segundo era DeepSeek R1. Fijarte en el tamaño ayuda a saber cuál puede mover tu ordenador:

• GPT-OSS 120B: 65 GB.
• GPT-OSS 20B: 14 GB.
• Gemma 3: versiones pequeñas de 1B y 4B, y una de 27B, algo más grande que el GPT-OSS 20B. La de 4B ocupa 3,3 GB y creo que cualquier ordenador de hoy puede ejecutarla. No está al nivel de los modelos de OpenAI, pero no está mal para cuando no hay internet.

Lo que yo echaba en falta con Ollama era poder subirle documentos para que los analizara, que es lo que de verdad me interesa. Como profesional de la salud, normalmente no puedo subir datos de pacientes a ChatGPT por privacidad. Con un modelo local que acepte documentos, podría analizarlos sin que salieran de mi ordenador. Eso lo permite LM Studio, con una interfaz parecida a la de ChatGPT o Claude y la diferencia de que le puedes subir documentos e imágenes.

1. Descarga LM Studio desde lmstudio.ai e instálalo.
2. Para añadir modelos, ve a Models, elige uno (por ejemplo, ERNIE 4.5) y pulsa Use model in LM Studio. Se descarga solo y ya puedes hablar con él de forma privada.
3. Elige el modelo en la barra superior. A mí el GPT-OSS 20B me avisó de que mi ordenador no tenía potencia suficiente, así que usé Gemma 3 de 4B.
4. Para que pueda leer documentos, pulsa el icono del enchufe y activa rag-v1. RAG quiere decir que la IA saca la información de los documentos que tú le das.
5. Pulsa Attach file y sube el documento. Cuando lo probé, admitía hasta cinco archivos a la vez de 30 MB como máximo.

Le subí un protocolo de atención al paciente politraumatizado y le pedí esto:

Quiero que analices este documento y me hagas un resumen de todo el contenido.

Sacó la información del PDF, pero me respondió en inglés aunque le había preguntado en español. Le pedí que me diera la respuesta en español y siguió en inglés. Creo que es porque es un modelo pequeño, entrenado sobre todo con textos en inglés, y no me entendía del todo; puede que con modelos más grandes no pase. Cuanto mejor sea el modelo que analiza los documentos, mejor será la respuesta: si tu ordenador puede con el GPT-OSS 20B, te dará respuestas mucho mejores que las que me dio a mí Gemma 3 de 4B.

Me parece muy interesante poder usar ya modelos de IA en ordenadores bastante normales y analizar archivos e imágenes sin enviarlos a ningún servidor. Cuando doy formaciones a profesionales de la salud, la duda y el miedo que más me encuentro es la privacidad de los datos. Con un modelo que se ejecuta en tu propio ordenador, los datos no salen de él.

• Ollama
• LM Studio
• Probar GPT-OSS en la nube de OpenAI