IA local para datos sensibles: qué es, cuándo compensa y qué hardware pide

«No puedo meter los datos de mis pacientes en ChatGPT.» Es la frase más repetida en clínicas, despachos y asesorías cuando hablamos de IA. Y es una restricción razonable: pasar datos de salud, información fiscal o expedientes legales por un servicio externo obliga a revisar contratos, encargados de tratamiento y transferencias.

La alternativa que suele mencionarse es «IA local»: ejecutar el modelo en un equipo propio. Funciona, pero conviene entender qué compra y qué no compra antes de invertir en hardware.

Qué es realmente la IA local

Un modelo de lenguaje abierto (por ejemplo, la familia Qwen) descargado y ejecutándose en un equipo tuyo con Ollama o similar. Los datos que entran por el prompt no viajan a ningún servidor externo: se procesan en tu máquina. Eso reduce mucho la superficie, aunque no elimina todas las obligaciones: sigues siendo responsable de accesos, copias de seguridad, registros y de que el modelo no vea más datos de los que necesita.

Qué hardware pide, con números

El tamaño del modelo determina la memoria. Modelos que existen hoy, con pesos reales verificados, y la memoria unificada razonable para ejecutarlos con contexto:

• Piloto (Qwen3 4B): 2,6 GB de pesos; funciona bien en equipos con 16 GB.
• Equipo pequeño (Qwen3 8B): 5,2 GB; cómodo con 24 GB.
• Producción (Qwen3 14B): 9,3 GB; pide 32 GB para contexto y margen.
• Alta exigencia (Qwen3 32B): 20,2 GB; a partir de 64 GB.

A eso se suma almacenamiento para el corpus documental (si el sistema consulta documentos) y su copia de seguridad, y conviene dejar un margen del orden del 30 % de memoria y disco tras una prueba de carga real antes de dar el equipo por válido. Si alguien te presupuesta «Qwen 27B», desconfía: ese modelo no existe en el registro público.

Qué compra y qué no compra

La IA local compra: control del dato, funcionamiento sin depender de la factura de un proveedor de tokens, y la posibilidad de auditar qué se ejecuta. No compra: calidad gratuita — un modelo de 4 B no razona como uno de 32 B —, inmunidad regulatoria, ni que las respuestas sean correctas por estar en local. Un sistema serio añade permisos por fuente, respuestas citadas y abstención verificable cuando no hay evidencia suficiente.

Cuándo compensa

Compensa cuando hay datos sensibles de terceros (salud, fiscal, legal), consultas internas repetitivas sobre documentación propia, y personas que necesitan respuestas con fuente. No compensa para tareas generales sin datos privados: ahí, un servicio externo es más simple y más barato. La decisión correcta suele ser mixta: local para lo sensible, externo para lo genérico, y reglas claras de qué pasa por dónde.

Si quieres ver qué pediría tu caso concreto, la guía conversacional dimensiona el modelo y la memoria a partir de tu propia descripción del proceso, y explica el razonamiento.