Cibernàrium · Barcelona Activa · Iniciación

IA local: modelos abiertos en tu ordenador y en tu memoria USB

Busca modelos en Hugging Face, instálalos con LM Studio y Ollama, ponlos a trabajar con documentos sin que salgan del ordenador y lleva un modelo pequeño en una memoria USB que se abre en casi cualquier equipo. Todo gratuito y actualizado a octubre de 2026.

Una sesión de 3 horasPresencial en el CibernàriumHerramientas gratuitasSin saber programarMaterial en castellano y catalán
El curso

Seis bloques, de Hugging Face a la memoria USB

Una sesión práctica de tres horas para cualquier perfil profesional. Cada bloque termina con trabajo hecho en tu ordenador.

Bloque 01

Qué es la IA local

  • Nube o local
  • Parámetros, cuantización y GGUF
  • La regla de la memoria
Ir al bloque
Bloque 02

Hugging Face

  • Leer la ficha de un modelo
  • Salamandra, el modelo en catalán del BSC
  • Spaces: chat, voz e imagen
Ir al bloque
Bloque 03

LM Studio y Ollama

  • Instalar y descargar un modelo
  • Prompt de sistema y temperatura
  • Trabajar sin conexión
Ir al bloque
Bloque 04

El día a día

  • Actas, opiniones y correos
  • Datos personales en local
  • Comparar modelos
Ir al bloque
Bloque 05

La IA en la memoria USB

  • llamafile: un modelo en un archivo
  • Windows, macOS y Linux
  • Modelos de más de 4 GB
Ir al bloque
Bloque 06

Criterio

  • Fuentes fiables y licencias
  • Cuándo local y cuándo nube
  • Seis hábitos de trabajo
Ir al bloque
Requisitos

Antes de venir

Cuenta de Hugging Face

  • Gratuita, creada antes de la sesión
  • Correo confirmado

Ordenador

  • 8 GB de RAM como mínimo, 16 GB recomendados
  • Entre 5 y 10 GB libres en el disco
  • Windows 10/11, macOS con chip Apple o Linux

Memoria USB (opcional)

  • USB 3 de 16 GB o más
  • Sin datos que necesites: se formatea en exFAT

Puedes usar los ordenadores del aula del Cibernàrium o traer el tuyo. No hace falta saber programar ni haber instalado nunca un modelo.

Temario

El temario completo, paso a paso

Cada bloque tiene la explicación, las prácticas guiadas con los prompts para copiar y la comprobación del resultado. Marca cada práctica cuando la termines.

Antes de empezar

Déjalo todo a punto: los materiales del caso, la cuenta de Hugging Face y los datos de tu ordenador.

  • Materiales descargados y descomprimidos en una carpeta fácil de encontrar (por ejemplo, Documentos\ia_local).
  • Cuenta gratuita de Hugging Face creada y con el correo confirmado.
  • Sabes cuánta memoria RAM tiene tu ordenador y si tiene tarjeta gráfica.
  • Tienes entre 5 y 10 GB libres en el disco.
  • Opcional: una memoria USB 3 de 16 GB o más, sin datos que necesites.
materials_ia_local.zip · Caso Cafès Roca, kit de la memoria USB, prompts, tabla de modelos y glosario.
ArchivoQué esDónde lo usamos
cafes_roca/acta_reunio_equip_setembre.docxActa de la reunión de equipo del 8 de septiembreP7, P10
cafes_roca/acta_reunio_equip_setembre.txtLa misma acta en texto plano, para pegarla en el chatP7, P11
cafes_roca/opinions_clients.txtVeinte opiniones de clientes de agosto y septiembreP8, P10
cafes_roca/reclamacio_client_ficticia.txtReclamación con datos personales inventadosP9
cafes_roca/resum_vendes_semestre.txtResumen de ventas de enero a junioP11
cafes_roca/vendes_cafes_roca_2026.csvLas 2.487 ventas del semestre (referencia)Consulta
cafes_roca/brief_web_cafes_roca.txtBrief de la web: locales, carta y coloresP3, P5
llapis_usb/Scripts para arrancar el modelo desde la memoria e instruccionesP12
prompts_ia_local.mdTodos los prompts del cursoTodo el curso
taula_models.md · glossari.mdModelos recomendados y glosarioConsulta
P0Conoce tu ordenador

Objetivo: Saber cuánta memoria tienes y qué modelo cabe antes de descargar nada.

Windows: abre el Administrador de tareas (Ctrl+Mayús+Esc) › Rendimiento. Apunta la memoria total y la libre, el nombre del procesador y, si la hay, la GPU y su memoria dedicada.
macOS: menú Apple › Acerca de este Mac. Apunta el chip (M1, M2, M3, M4…) y la memoria. En un Mac con chip Apple la memoria es compartida: la GPU usa la misma RAM.
Busca tu fila en la tabla de modelos de esta página y apunta el modelo que te toca.
Comprueba
  • Sabes tu RAM, el procesador y qué modelo descargarás.
Si algo falla

Si tienes 4 GB de RAM o un Mac con procesador Intel, LM Studio no funcionará. Sigue la sesión con Ollama o con la memoria USB y el modelo Qwen3.5 0.8B.

Qué es la IA local

Las cuatro ideas que necesitas para elegir un modelo y saber qué puedes esperar de él.

NUBE
PC⇄ internetcentro de datos

Modelo grande · cuota · necesita conexión · los datos salen del equipo

LOCAL
PCmodel.ggufLM Studio · Ollama · llamafile

Modelo pequeño o mediano · sin cuota · funciona sin internet

Cuando usas ChatGPT, Claude o Gemini, lo que escribes viaja a un centro de datos, un modelo enorme lo procesa y la respuesta vuelve a tu ordenador. Con la IA local, el modelo es un archivo que tienes en el disco y un programa (LM Studio, Ollama o llamafile) lo hace funcionar con el procesador, la tarjeta gráfica y la memoria de tu equipo.

IdeaQué significaCómo te afecta
Modelo abiertoLa empresa o el centro de investigación publica los pesos del modelo para que cualquiera lo descargue.Puedes usarlo sin conexión y sin pagar por uso. Cada modelo tiene su licencia.
ParámetrosLos números que el modelo ha aprendido. Se expresan en miles de millones: 2B, 4B, 20B.Más parámetros, más capacidad, pero también más memoria y más lentitud.
CuantizaciónComprimir los pesos guardando cada número con menos bits. Q8 es casi exacto; Q4 ocupa la mitad.Q4_K_M es el punto de equilibrio habitual: pierde muy poco y cabe en ordenadores normales.
GGUFEl formato de archivo de los modelos preparados para funcionar en ordenadores personales.Es lo que descargan LM Studio, Ollama y llamafile.
ContextoLa cantidad de texto que el modelo tiene presente a la vez: la conversación y los documentos.Más contexto, más memoria. Para un documento de pocas páginas bastan 8.000 tokens.
Tokens por segundoLa velocidad a la que el modelo escribe.Por debajo de 5 se hace lento; por encima de 20 parece un chat en la nube.
En palabras sencillas

Un modelo de 4B en Q4 es como un libro de 4.000 millones de palabras escrito con letra pequeña: cabe en la mochila (el disco) y lo puedes leer en casa (la memoria). Un modelo grande en la nube es una biblioteca entera: sabe más, pero tienes que ir.

Trabaja en local cuando…Trabaja en la nube cuando…
Hay datos personales, de clientes o confidenciales.Necesitas la máxima calidad de razonamiento o de código.
No tienes conexión o no es fiable (tren, cliente, viaje).Tienes que buscar información actual en internet.
Haces tareas repetitivas y no quieres pagar por uso.Trabajas con documentos muy largos o con muchos archivos a la vez.
Quieres una herramienta que funcione igual dentro de dos años.Necesitas agentes que actúen sobre tu correo, el calendario o la web.
Los límites, de frente

Un modelo local pequeño se equivoca más en cálculos, en datos recientes y en razonamientos largos, y no busca en internet. Para resumir, clasificar, reescribir y extraer datos de un texto que le das, en cambio, rinde muy bien.

Hugging Face: el catálogo de la IA abierta

El catálogo más grande de modelos, conjuntos de datos y demostraciones de la IA abierta. Aprendes a encontrar lo que necesitas y a leer su ficha.

SecciónQué encuentrasDirección
ModelsLos modelos publicados por empresas, universidades y particulares, con filtros por tarea, idioma, licencia y formato.huggingface.co/models
DatasetsConjuntos de datos para entrenar y evaluar modelos.huggingface.co/datasets
SpacesDemostraciones que funcionan en el navegador: chat, voz, imagen, traducción.huggingface.co/spaces
HuggingChatUn chat que deja elegir entre muchos modelos abiertos.huggingface.co/chat
Qué incluye la cuenta gratuita

Buscar y descargar modelos no tiene límite. Los Spaces con GPU (ZeroGPU) tienen una cuota diaria de 5 minutos y un máximo de tres ejecuciones al día; HuggingChat y las llamadas a los proveedores de inferencia gastan unos créditos mensuales de 0,10 $. Para probar es suficiente, y este límite es precisamente la razón para instalar el modelo en el ordenador.

P1Lee la ficha de un modelo

Objetivo: Saber quién ha hecho un modelo, qué permite la licencia, qué idiomas habla y qué versiones puedes descargar.

Entra en huggingface.co/models y busca «gemma-4-E2B-it». Abre el modelo de la organización google.
En la ficha (Model card) busca: quién lo ha publicado, la licencia (columna de la derecha), el tamaño en parámetros y para qué sirve.
Baja hasta «Quantizations»: son las versiones GGUF que han hecho otras organizaciones (unsloth, lmstudio-community, ggml-org, bartowski).
Ahora busca «salamandra-2b-instruct» y abre BSC-LT/salamandra-2b-instruct. Compara: idiomas de entrenamiento, licencia y quién lo ha hecho.
Usa los filtros de la izquierda: tarea «Text Generation», biblioteca «GGUF» e idioma «Catalan». Ordena por «Most downloads».
Comprueba
  • Sabes decir la licencia de Gemma 4 y de Salamandra (las dos Apache 2.0).
  • Has encontrado al menos una versión GGUF de cada modelo.
Si algo falla

Si una ficha pide aceptar condiciones antes de descargar («gated model»), elige otra versión: para la sesión no hace falta ninguna con acceso restringido.

Documentación oficialModel cardsGGUF a Hugging Face
P2Dile a Hugging Face qué ordenador tienes

Objetivo: Que cada ficha de modelo te marque qué versiones caben en tu equipo.

Haz clic en tu foto › Settings › Local Apps and Hardware.
En «Hardware», añade tu procesador o tu GPU y la memoria que apuntaste en la P0.
En «Local Apps», activa LM Studio, Ollama y llama.cpp.
Vuelve a la ficha de una versión GGUF de Gemma 4 E2B (por ejemplo, lmstudio-community/gemma-4-E2B-it-GGUF). A la derecha verás las cuantizaciones marcadas según quepan o no en tu equipo.
Abre el botón «Use this model»: ahora te ofrece abrirlo directamente en LM Studio o en Ollama.
Comprueba
  • Ves qué cuantizaciones te caben y el botón «Use this model» con LM Studio.
Documentación oficialLocal Apps
P3Prueba modelos en el navegador: chat, voz e imagen

Objetivo: Ver de qué son capaces los modelos abiertos antes de instalar nada, y notar los límites del servicio gratuito.

Chat: abre huggingface.co/chat, elige un modelo abierto y pega el prompt de esta práctica con el brief de Cafès Roca.
Voz: en huggingface.co/spaces busca «whisper», abre un Space que diga «Running» y graba 15 segundos leyendo una opinión de clientes. Mira qué transcribe.
Imagen: busca «text to image» en los Spaces y pide el cartel de la carta de invierno con el segundo prompt.
Si un Space te dice que has agotado la cuota, es el límite diario de la cuenta gratuita: pasa al bloque siguiente.
Chat con el brief
A continuación tienes el brief de la web de Cafès Roca, una cadena de tres cafeterías de barrio en Barcelona. Propón tres lemas para la cabecera, de menos de ocho palabras cada uno, con un tono cercano y honesto. Responde en [tu idioma].

[PEGA AQUÍ EL TEXTO DE brief_web_cafes_roca.txt]
Cartel de la carta de invierno
Cartel vertical para una cafetería de barrio en Barcelona: taza de chocolate caliente y un trozo de carrot cake sobre una mesa de madera, luz cálida de tarde, colores marrón oscuro, crema y terracota, estilo ilustración plana, sin texto.
Comprueba
  • Has hecho al menos dos de las tres pruebas.
  • Sabes dónde se ve la cuota que te queda.
Si algo falla

Los Spaces se ejecutan en los servidores de quien los publica: no subas nunca datos reales. Si un Space está parado («Sleeping» o «Paused»), prueba otro.

Instala un modelo en tu ordenador

LM Studio es la forma más sencilla de tener un chat local: ventanas, botones y un buscador de modelos de Hugging Face.

SistemaRequisitos de LM Studio
Windowsx64 con procesador compatible con AVX2 (prácticamente todos los Intel y AMD de los últimos diez años) o ARM (Snapdragon X). Se recomiendan 16 GB de RAM.
macOSChip Apple (M1 o posterior) y macOS 14 o más nuevo. Los Mac con procesador Intel no son compatibles.
Linuxx64 o ARM64, en formato AppImage. Ubuntu 20.04 o posterior.
P4Instala LM Studio y descarga el primer modelo

Objetivo: Tener LM Studio funcionando con el modelo que te corresponde según la memoria de tu ordenador.

Descarga el instalador desde lmstudio.ai/download e instálalo. Es gratuito, también para uso profesional.
Al abrirlo por primera vez, sáltate el modelo que te propone si no es el de tu fila de la tabla.
Ve a la pestaña Discover (la lupa) y busca el modelo: «gemma-4-e4b» si tienes 16 GB, «gemma-4-e2b» o «qwen3.5 2b» si tienes 8.
A la derecha, elige la cuantización Q4_K_M. LM Studio te avisa si el modelo es demasiado grande para tu equipo («Likely too large»).
Mientras se descarga, abre la ficha del mismo modelo en Hugging Face: es el mismo archivo.
Comprueba
  • El modelo aparece en My Models (la carpeta) con su tamaño.
Si algo falla

Si el instalador de Windows muestra el aviso de SmartScreen, haz clic en «Más información» › «Ejecutar de todas formas». Si la descarga va lenta, empieza por el modelo más pequeño de tu fila.

P5Primera conversación, prompt de sistema y temperatura

Objetivo: Cargar el modelo, darle unas instrucciones fijas y ver cómo cambia la respuesta con la temperatura.

Pestaña Chat › selector de modelos de la parte superior › elige el modelo descargado. En la configuración de carga deja el contexto en 8.192 tokens.
Escribe el primer prompt y mira, debajo de la respuesta, la velocidad en tokens por segundo.
Abre el panel de la derecha y pega el prompt de sistema de Cafès Roca. A partir de ahora se aplica a toda la conversación.
En el mismo panel, pon la temperatura en 0,2 y pide tres lemas. Repítelo con 1,0 y compara.
Primer mensaje
Preséntate en tres líneas: qué modelo eres, quién te ha entrenado y qué puedes hacer sin conexión a internet. Responde en [tu idioma].
Prompt de sistema de Cafès Roca
Eres el asistente de Cafès Roca, tres cafeterías de barrio en Barcelona (Gràcia, Poblenou y Sants) fundadas por Marta Roca. Responde siempre en [tu idioma], con tono cercano, honesto y directo, sin exageraciones ni emojis. Si no sabes un dato, dilo y no te lo inventes. Cuando redactes para clientes, firma como Marta Roca.
Lemas con temperatura baja y alta
Propón tres lemas para la carta de invierno de Cafès Roca, de menos de ocho palabras.
Comprueba
  • Sabes dónde se carga el modelo, dónde va el prompt de sistema y dónde se cambia la temperatura.
  • Has visto la velocidad en tokens por segundo.
Si algo falla

Si el modelo no carga o el ordenador se queda sin memoria, expúlsalo (Eject) y carga uno más pequeño o con menos contexto.

P6Desconéctate y sigue trabajando

Objetivo: Comprobar con tus propios ojos que el modelo funciona sin internet.

Desactiva la wifi (o activa el modo avión).
Haz una pregunta nueva al modelo. Responde igual.
Ahora pregúntale qué tiempo hará mañana en Barcelona y fíjate en cómo responde: no tiene forma de saberlo.
Vuelve a conectar la wifi.
Comprueba
  • El modelo ha respondido sin conexión.
  • Sabes distinguir cuándo el modelo no puede saber un dato (tiempo, noticias, precios actuales).
Chatear con documentos

LM Studio admite adjuntar archivos .docx, .pdf y .txt al chat. Si el documento cabe en el contexto del modelo, lo añade entero; si es demasiado largo, busca los fragmentos relevantes (RAG). Con documentos de pocas páginas, como los del caso, el modelo los lee enteros.

Ollama: lo mismo, desde el terminal y como servicio

Ollama hace funcionar los mismos modelos y, además, los ofrece como servicio en la dirección localhost:11434 para que los usen otros programas (editores, extensiones, agentes). Se instala sin permisos de administrador y tiene una aplicación con ventana de chat.

DemoOllama en cinco órdenes

Objetivo: Ver cómo se descarga, se ejecuta y se gestiona un modelo desde el terminal, y cómo se ejecuta directamente un modelo de Hugging Face.

Descarga Ollama desde ollama.com/download e instálalo. Abre PowerShell (Windows) o Terminal (macOS).
Ejecuta las órdenes de esta práctica una por una. Para salir del chat, escribe /bye.
La última orden descarga Salamandra directamente de Hugging Face, sin pasar por el catálogo de Ollama.
Descarga y abre un chat con Gemma 4 E2B
ollama run gemma4:e2b
Modelos que tienes descargados
ollama list
Modelos cargados en memoria ahora mismo
ollama ps
Borra un modelo para liberar espacio
ollama rm gemma4:e2b
Ejecuta un GGUF de Hugging Face (Salamandra 2B)
ollama run hf.co/mradermacher/salamandra-2b-instruct-GGUF:Q4_K_M
Comprueba
  • Sabes para qué sirven run, list, ps y rm.

La IA local en el día a día

Trabajo real con los archivos de Cafès Roca, sin que ningún documento salga del ordenador.

Cómo escribir para un modelo pequeño

Una tarea por mensaje, instrucciones cortas y numeradas, el formato de salida bien claro (tabla, lista, número de palabras) y el documento pegado o adjuntado en el mismo mensaje. Cuanto más concreto es el encargo, menos se inventa.

P7Resumen del acta y tabla de tareas

Objetivo: Sacar de un acta de reunión el resumen, las tareas con responsable y plazo, y un correo de recordatorio.

Conversación nueva en LM Studio. Adjunta acta_reunio_equip_setembre.docx con el clip o pega el texto del acta en .txt.
Envía el primer prompt y revisa la tabla con el acta al lado.
Pide el correo de recordatorio con el segundo prompt.
Resumen y tareas
Lee el acta adjunta y haz dos cosas:
1. Un resumen de cinco líneas con las decisiones principales.
2. Una tabla con tres columnas: responsable, tarea y plazo, ordenada por fecha.
No añadas nada que no salga en el acta. Responde en [tu idioma].
Correo de recordatorio
Escribe un correo breve de Marta al equipo recordando las tareas de la tabla, con un párrafo por persona y la fecha de la próxima reunión. Máximo 180 palabras.
Comprueba
  • La tabla tiene seis tareas entre el 11 y el 18 de septiembre, y una colectiva para la reunión del 6 de octubre.
  • Ninguna tarea ni fecha inventada.
Si algo falla

Si el modelo resume solo una parte, es que el contexto es corto: súbelo a 8.192 tokens o pega el texto del acta en lugar de adjuntar el Word.

P8Clasifica veinte opiniones de clientes

Objetivo: Convertir un texto desordenado en una tabla útil y en tres prioridades de acción.

Conversación nueva. Pega el contenido de opinions_clients.txt después del prompt.
Revisa la tabla: comprueba a mano tres filas al azar.
Pide las prioridades con el segundo prompt.
Tabla de opiniones
Clasifica estas veinte opiniones de clientes en una tabla con estas columnas: número, local, tema (servicio, producto, precio, local, tecnología), nota y resumen en diez palabras. Al final, calcula la nota media por local. Responde en [tu idioma].

[PEGA AQUÍ opinions_clients.txt]
Tres prioridades
A partir de la tabla, di cuáles son los tres problemas que más se repiten y propón una acción concreta para cada uno, con el local donde hay que hacerla.
Comprueba
  • Veinte filas: siete de Gràcia, siete de Poblenou y seis de Sants.
  • Medias de referencia: Poblenou 3,7 · Sants 3,2 · Gràcia 3,1 · total 3,35.
  • Entre las prioridades están la espera en Poblenou, la app de fidelización y la leche de avena en Gràcia.
Si algo falla

Los modelos pequeños se equivocan a menudo haciendo medias. Si la cifra no cuadra, es normal: para calcular, usa una hoja de cálculo o un modelo en la nube con ejecución de código.

P9Datos personales que no salen del ordenador

Objetivo: Usar el modelo local con un documento que contiene datos personales: responder una reclamación y preparar una versión anonimizada.

Desactiva la wifi: así tienes la certeza de que no se envía nada.
Conversación nueva. Pega reclamacio_client_ficticia.txt después del primer prompt.
Pide la versión anonimizada con el segundo prompt y revisa que no quede ningún dato personal.
Respuesta a la clienta
Escribe la respuesta de Marta a esta reclamación: reconoce el cobro duplicado, explica que se devolverá en un plazo de cinco días laborables y que el problema de los puntos de la app está en manos del proveedor. Tono cercano y honesto, máximo 140 palabras.

[PEGA AQUÍ reclamacio_client_ficticia.txt]
Versión anonimizada
Devuélveme la reclamación original sustituyendo todos los datos personales por etiquetas: [NOMBRE], [CORREO], [TELÉFONO], [DIRECCIÓN], [CLIENTE]. Conserva el resto del texto igual.
Comprueba
  • La respuesta habla de los 23,50 € cobrados dos veces y de los puntos de la app.
  • En la versión anonimizada no queda ningún nombre, correo, teléfono, dirección ni número de cliente.
Si algo falla

Revisa siempre la versión anonimizada a mano: el modelo puede dejarse alguna, sobre todo el nombre en la firma.

P10El mismo encargo, tres modelos

Objetivo: Saber cuándo basta con un modelo pequeño y cuándo vale la pena uno más grande o la nube.

Usa el prompt de la P8 (tabla de opiniones) en dos modelos locales de tamaño distinto: por ejemplo, Qwen3.5 2B y Gemma 4 E4B, o Gemma 4 E2B y Salamandra 2B.
Haz lo mismo en ChatGPT, Claude o Gemini con la cuenta gratuita. Las opiniones son ficticias, por eso se pueden subir a la nube.
Rellena la tabla de comparación de esta práctica.
CriterioModelo local pequeñoModelo local medianoModelo en la nube
Velocidad (tokens/s)
Ha respetado el formato de la tabla
Medias correctas
Calidad del idioma
Lo usaría para esta tarea
Comprueba
  • Puedes explicar en una frase qué tarea harías con cada modelo.
P11Reto: encuentra las contradicciones

Objetivo: Usar el modelo para revisar documentos y ver hasta dónde llega.

Conversación nueva. Pega el texto del acta y el resumen de ventas después del prompt.
Compara la respuesta con la comprobación.
Revisión cruzada
Compara el acta de la reunión con el resumen de ventas. Haz una lista de las afirmaciones del acta que no cuadran con los datos del resumen, con la cifra del acta y la cifra real. Si no encuentras ninguna, dilo.

ACTA:
[PEGA AQUÍ acta_reunio_equip_setembre.txt]

RESUMEN DE VENTAS:
[PEGA AQUÍ resum_vendes_semestre.txt]
Comprueba
  • El acta dice que el café es el 55 % de la facturación; en el resumen es el 30,1 %.
  • El acta dice que las bebidas frías son el 14 % en verano; en el resumen son el 23,6 % en mayo y el 27,4 % en junio.
Si algo falla

Si el modelo no las encuentra, hazle la pregunta más concreta: «¿Qué porcentaje de la facturación es el café según el acta y según el resumen?».

La IA en el bolsillo: un modelo en una memoria USB

Un solo archivo que contiene el modelo y el programa, y que se abre sin instalar nada en Windows, macOS y Linux.

llamafile es un proyecto de código abierto de Mozilla.ai que empaqueta un modelo y el motor llama.cpp en un único ejecutable. Al abrirlo, aparece un chat en la ventana del terminal y, a la vez, una interfaz web en la dirección localhost:8080 del navegador. Como no instala nada, funciona desde una memoria USB, una carpeta compartida o el disco.

llamafileTamañoFunciona en Windows tal cualPara quién
Qwen3.5-0.8B-Q8_0unos 1,7 GBSíOrdenadores antiguos o con 4–8 GB de RAM
Qwen3.5-2B-Q8_03,2 GBSíLa opción recomendada para la memoria
Ministral-3-3B-Instruct-2512-Q4_K_M3,4 GBSíAlternativa europea (Mistral AI)
Qwen3.5-4B-Q5_K_S4,1 GBNo: supera los 4 GBmacOS y Linux, o Windows con el motor y el GGUF por separado
El límite de 4 GB de Windows

Windows no ejecuta programas de más de 4 GB. Para modelos más grandes, se usa el motor solo (llamafile.exe) y el modelo en un archivo .gguf aparte. El kit incluye el script arrencar_gguf_windows.bat para hacerlo.

P12Monta tu memoria USB con IA

Objetivo: Tener un modelo que se abre con doble clic en casi cualquier ordenador, sin instalar nada y sin internet.

Formatea la memoria en exFAT (Windows: Explorador › clic derecho en la memoria › Formatear › Sistema de archivos exFAT · macOS: Utilidad de Discos › Borrar › ExFAT). Esto borra todo lo que haya. Si no traes memoria, usa una carpeta del disco.
Copia en la memoria el contenido de la carpeta llapis_usb de los materiales.
Descarga Qwen3.5-2B-Q8_0.llamafile (o el de 0.8B si tienes poca memoria) desde el repositorio oficial de Mozilla.ai en Hugging Face y guárdalo en la memoria, junto a los scripts.
Windows: renombra el archivo añadiendo .exe al final (Qwen3.5-2B-Q8_0.llamafile.exe). Si no ves las extensiones, actívalas en el Explorador › Vista › Extensiones de nombre de archivo.
Haz doble clic en arrencar_windows.bat (Windows) o en arrencar_mac.command (macOS). En Linux, ejecuta sh arrencar_mac_linux.sh desde el terminal.
Espera a que se cargue. El chat se abre en el navegador en http://localhost:8080; también puedes escribir en la ventana del terminal.
Pruébalo con el prompt de esta práctica. Para cerrarlo, Ctrl+C en la ventana del terminal.
Qwen3.5 2B (3,2 GB) · el recomendado
https://huggingface.co/mozilla-ai/llamafile_0.10/resolve/main/Qwen3.5-2B-Q8_0.llamafile
Qwen3.5 0.8B (1,7 GB) · para ordenadores con poca memoria
https://huggingface.co/mozilla-ai/llamafile_0.10/resolve/main/Qwen3.5-0.8B-Q8_0.llamafile
El motor solo, para usar cualquier GGUF (renómbralo llamafile.exe en Windows)
https://huggingface.co/mozilla-ai/llamafile_0.10/resolve/main/llamafile_0.10.1
Prueba de la memoria
Escribe tres respuestas cortas y amables para clientes que se quejan de esperar demasiado un sábado por la mañana. Cada respuesta de menos de 50 palabras. Responde en [tu idioma].
Comprueba
  • El modelo responde desde la memoria (o la carpeta) con la wifi desconectada.
  • Sabes qué script abre el modelo en cada sistema.
Si algo falla

Windows muestra el aviso de SmartScreen la primera vez: «Más información» › «Ejecutar de todas formas». Si el antivirus lo bloquea, prueba desde una carpeta del disco. En macOS, si dice que no se puede abrir porque es de un desarrollador no identificado, clic derecho › Abrir. Si el navegador dice que no puede conectar, espera unos segundos más: el modelo todavía se está cargando.

En palabras sencillas

La memoria USB lleva el modelo y el programa. El ordenador donde la conectas pone la memoria y el procesador. Por eso la misma memoria va rápida en un portátil nuevo y lenta en uno de hace diez años, y por eso conviene una memoria USB 3: el modelo se lee entero cada vez que lo abres.

Criterio

Seguridad, licencias y cuándo elegir local o nube.

TemaBuena práctica
De dónde descargasModelos de organizaciones conocidas o verificadas (google, BSC-LT, mozilla-ai, lmstudio-community, unsloth, bartowski) y en formatos GGUF o safetensors. Evita archivos .bin o .pkl de procedencia dudosa.
LicenciasLéela en la ficha antes de usar el modelo en el trabajo. Apache 2.0 y MIT permiten uso comercial; algunas licencias propias ponen condiciones.
Datos sensiblesEn local no se envían a ningún sitio, pero quedan guardadas en el historial del programa. Borra las conversaciones que no necesites.
Memoria USBSe puede perder: no guardes conversaciones con datos reales o cífrala (BitLocker To Go en Windows, Utilidad de Discos en macOS).
RevisiónComprueba siempre cifras, fechas y nombres. Los modelos pequeños se inventan datos con mucha seguridad.
Espacio en discoCada modelo ocupa varios gigabytes. Borra los que no uses (My Models en LM Studio, ollama rm en Ollama).
  1. Elige el modelo por la memoria de tu ordenador, no por el ranking.
  2. Empieza por Q4_K_M y sube de calidad solo si tienes margen.
  3. Una tarea por mensaje y el formato de salida bien claro.
  4. Datos personales: modelo local y, si quieres certeza absoluta, sin conexión.
  5. Cálculos y datos actuales: hoja de cálculo o modelo en la nube.
  6. Descarga solo de fuentes fiables y lee la licencia.

Qué modelo cabe en tu ordenador

Elige la memoria de tu equipo y la tabla te marca los modelos que puedes usar.

Mi ordenador tiene
Memoria del ordenadorModelo recomendadoTamaño aproximadoEn LM Studio, buscaEn OllamaPara qué
8 GB, sin tarjeta gráficaQwen3.5 2B1,5–3,2 GBqwen3.5 2bqwen3.5:2bResúmenes, correos y clasificaciones cortas. Rápido en cualquier portátil.
8 GB, sin tarjeta gráficaGemma 4 E2Bunos 3 GBgemma-4-e2bgemma4:e2bTexto e imágenes. Buena redacción en catalán y castellano.
8 GB, sin tarjeta gráficaSalamandra 2B Instructmenos de 2 GBsalamandra-2b-instructhf.co/mradermacher/salamandra-2b-instruct-GGUF:Q4_K_MModelo del Barcelona Supercomputing Center, entrenado con 35 lenguas europeas, catalán incluido.
16 GBGemma 4 E4Bunos 4,6 GBgemma-4-e4bgemma4:e4bLa mejor opción general para la sesión si el ordenador tiene 16 GB.
16 GBQwen3.5 4Bunos 3–4 GBqwen3.5 4bqwen3.5:4bClasificar, extraer datos y seguir instrucciones largas.
32 GB o tarjeta gráfica de 12 GB o másgpt-oss 20B · Gemma 4 26B A4Bde 12 a 17 GBgpt-oss-20b · gemma-4-26bgpt-oss:20bRazonamiento y textos largos, ya cerca de los modelos en la nube de hace un año.

Regla rápida: el archivo del modelo, más 1 o 2 GB de margen, tiene que caber en la memoria que tienes libre. Si el modelo va muy lento o el ordenador se atasca, elige uno más pequeño o una cuantización más baja (Q4 en lugar de Q8).

Glosario

Las palabras del curso, sin tecnicismos.

APIPuerta para que un programa hable con otro. Ollama y LM Studio ofrecen una para que otras aplicaciones usen el modelo.
AVX2Conjunto de instrucciones de los procesadores Intel y AMD que LM Studio necesita en Windows y Linux.
ContextoTexto que el modelo tiene presente a la vez: instrucciones, conversación y documentos. Se mide en tokens.
CuantizaciónCompresión de los pesos con menos bits por número. Reduce el tamaño y la memoria con poca pérdida de calidad.
exFATSistema de archivos para memorias USB que funciona en Windows, macOS y Linux y admite archivos de más de 4 GB.
Ficha del modeloPágina de un modelo en Hugging Face (model card) con el autor, la licencia, los idiomas y el uso previsto.
GGUFFormato de archivo de los modelos preparados para funcionar en ordenadores personales con llama.cpp, LM Studio, Ollama y llamafile.
GPU y VRAMTarjeta gráfica y su memoria. Acelera mucho los modelos si caben.
Hugging Face HubPlataforma donde se publican modelos, conjuntos de datos y demostraciones de IA.
InferenciaHacer funcionar un modelo para obtener una respuesta.
InstructVersión de un modelo preparada para seguir instrucciones y conversar. Es la que quieres para chatear.
LicenciaCondiciones de uso del modelo. Apache 2.0 y MIT permiten el uso comercial.
llama.cppMotor de código abierto que hace funcionar los modelos GGUF. Lo usan LM Studio, Ollama y llamafile.
llamafileProyecto de Mozilla.ai que pone un modelo y su motor en un solo archivo ejecutable.
LM StudioAplicación de escritorio gratuita para descargar modelos y chatear con ellos en local.
localhostLa dirección de tu propio ordenador. localhost:8080 es una página web servida por tu equipo, sin internet.
Modelo abiertoModelo del que se publican los pesos para que cualquiera pueda descargarlo y hacerlo funcionar.
Modelo restringidoModelo que pide aceptar condiciones antes de descargarlo (gated model).
MoEMixture of Experts: modelo grande que solo activa una parte de los parámetros en cada palabra. Va más rápido de lo que su tamaño haría pensar.
OllamaPrograma gratuito que ejecuta modelos en local y los ofrece como servicio a otras aplicaciones.
ParámetrosCantidad de pesos de un modelo. 4B significa 4.000 millones.
PesosLos números que el modelo ha aprendido durante el entrenamiento. Son el contenido del archivo que descargas.
Prompt de sistemaInstrucciones fijas que el modelo sigue en toda la conversación.
Q4_K_M · Q8_0Nombres de cuantización. El número indica los bits: Q4 ocupa la mitad que Q8.
RAGTécnica que busca los fragmentos relevantes de un documento largo y se los pasa al modelo con la pregunta.
RAMMemoria de trabajo del ordenador. El modelo se carga entero en ella para funcionar.
SafetensorsFormato seguro para guardar pesos, habitual en los modelos originales de Hugging Face.
SmartScreenAviso de Windows cuando abres un programa descargado poco conocido.
SpaceDemostración de un modelo que funciona en el navegador, alojada en Hugging Face.
TemperaturaGrado de variación de las respuestas. Baja (0,2): previsible. Alta (1,0): más creativa.
TerminalVentana donde se escriben órdenes de texto: PowerShell en Windows, Terminal en macOS y Linux.
TokenTrozo de palabra con el que trabaja el modelo. En castellano, una palabra son de uno a tres tokens.
Tokens por segundoVelocidad a la que el modelo genera texto.
ZeroGPUGPU compartida de Hugging Face para los Spaces, con una cuota diaria por cuenta.

Documentación oficial

Las fuentes que usamos en el curso, actualizadas a octubre de 2026.

FAQ

Preguntas frecuentes sobre la IA local

¿Qué es un modelo de IA local?

Un modelo abierto que descargas y haces funcionar en tu ordenador con programas como LM Studio, Ollama o llamafile. Lo que escribes no sale del equipo y, una vez descargado, funciona sin internet.

¿Qué ordenador necesito?

Con 8 GB de RAM funcionan modelos de 2.000 a 3.000 millones de parámetros; con 16 GB, modelos como Gemma 4 E4B o Qwen3.5 4B. LM Studio pide un procesador con AVX2 en Windows y un Mac con chip Apple.

¿Tengo que pagar algo?

No. Hugging Face, LM Studio, Ollama y llamafile son gratuitos, y los modelos que usamos tienen licencia Apache 2.0.

¿Hay modelos en catalán?

Sí. Salamandra, del Barcelona Supercomputing Center, está entrenado con 35 lenguas europeas, catalán incluido. Gemma 4 y Qwen3.5 también lo entienden y lo escriben.

¿De verdad funciona desde una memoria USB?

Sí. Un llamafile contiene el modelo y el programa en un solo archivo y se abre sin instalar nada en Windows, macOS y Linux. La velocidad depende del ordenador donde la conectas.

¿Sustituye a ChatGPT o Claude?

Para resumir, clasificar, reescribir y trabajar con datos confidenciales, un modelo local es muy útil. Para razonamientos largos, código complejo o información actual, los modelos en la nube siguen siendo más capaces.