Cómo implantar IA on-premise en tu empresa: hardware, modelos, datos y coste

Esta guía es para la dirección y el responsable de sistemas de una empresa que ya ha decidido, o casi, que quiere usar inteligencia artificial con sus datos reales sin enviarlos a la nube de un tercero. Si todavía estás comparando opciones, empieza por IA propia frente a ChatGPT: nube o servidor o por Copilot o IA privada. Aquí damos por hecha la decisión y vamos al cómo: qué piezas tiene una IA on-premise, qué hay que comprar, qué modelo elegir y con qué licencia, cómo se conectan tus datos y qué controles necesita antes de abrirla al equipo.

Qué es implantar IA on-premise y qué piezas tiene

Implantar IA on-premise es poner en marcha, dentro de tu perímetro, todo lo que hace falta para que una persona pregunte o encargue una tarea y la respuesta salga de tus datos sin pasar por un proveedor externo. En la práctica son cinco piezas, y conviene verlas por separado porque cada una se dimensiona y se mantiene de forma distinta:

• El servidor. La máquina, física o en un entorno privado que controlas, donde se ejecuta el modelo. Su pieza clave es la memoria de la tarjeta gráfica.
• El modelo de lenguaje. Un modelo de pesos abiertos, como Llama, Qwen o Mistral, que se descarga y se ejecuta en local.
• El acceso a tus datos. La búsqueda en documentos por significado (lo que se llama RAG) y los conectores al ERP, al correo o a las bases de datos.
• La identidad y los permisos. Quién entra, con qué cuenta y qué puede ver o tocar cada persona.
• La operación. Registro de actividad, monitorización, copias, actualizaciones y una consola para gobernarlo.

Un error frecuente es pensar que implantar IA es comprar un servidor potente y descargar un modelo. Eso es el principio. Lo que hace útil y segura una IA privada son las otras tres piezas, y son las que más tiempo llevan.

Cómo implantar IA on-premise paso a paso

El orden importa: si se compra el hardware antes de saber qué se le va a pedir, lo normal es quedarse corto o pasarse. Este es el recorrido que recomendamos, el mismo que describimos en nuestra página de IA privada on-premise:

1. Elegir un problema medible. Qué preguntas o qué tarea, sobre qué datos y para quién. Por ejemplo, que administración consulte cobros pendientes en el ERP, o que el equipo técnico busque en manuales y fichas.
2. Hacer una prueba pequeña. Una fuente de datos y preguntas reales del equipo, para ver el valor antes de escalar. Lo explicamos en cómo hacer una prueba de concepto de IA.
3. Dimensionar el servidor y el modelo. Con lo aprendido en la prueba: cuántos usuarios a la vez, cuánto texto por consulta, qué tamaño de modelo resuelve bien la tarea.
4. Conectar los sistemas y definir permisos. Qué fuentes lee, cuáles escribe y con qué identidad.
5. Ajustar con preguntas reales. Se prueba con el equipo, se corrigen las respuestas pobres y se afinan los accesos.
6. Abrirlo al equipo. Con formación, registro de actividad y un responsable que lo gobierne.

Saltarse el primer paso es el fallo más caro. Lo recogemos, junto con otros, en errores habituales al implantar IA en una empresa.

Qué hardware hace falta para una IA en local

Hace falta un servidor con una o varias tarjetas gráficas cuya memoria tenga cabida para el modelo elegido, más la memoria que consumen las conversaciones simultáneas. Esa es la regla que manda: el tamaño del modelo y el número de usuarios a la vez determinan la memoria gráfica, y la memoria gráfica determina el coste del servidor.

Tres factores fijan el dimensionado:

• Tamaño del modelo. Los modelos se publican en varios tamaños, medidos en miles de millones de parámetros. Un modelo más grande suele razonar mejor y necesita más memoria. Las versiones cuantizadas, que guardan los pesos con menos precisión, reducen mucho esa memoria a cambio de algo de calidad.
• Contexto. Cuanto más texto se le pasa en cada consulta (documentos largos, historiales de correo), más memoria consume cada conversación.
• Concurrencia. No es lo mismo un asistente para cinco personas de administración que uno abierto a toda la plantilla en hora punta.

No damos cifras de rendimiento genéricas porque dependen de la combinación concreta de modelo, cuantización, tarjeta y software de servicio, y una cifra fuera de contexto engaña más que ayuda. Lo que sí podemos decir es que no siempre hace falta una gran inversión: un alcance acotado se puede servir con una infraestructura moderada y crecer después. Además del servidor, cuenta el entorno: alimentación protegida, refrigeración, red y copias. Si te planteas dónde ubicarlo, tienes los criterios generales en servidor físico propio o nube.

Qué modelos abiertos se pueden usar y con qué licencia

Se usan modelos de pesos abiertos, que el fabricante publica para descargarlos y ejecutarlos en tu infraestructura. Lo que hay que mirar antes de elegir uno es su licencia, porque no todos los modelos abiertos se licencian igual. Estos son tres ejemplos, con la licencia que publica cada fabricante (consulta de noviembre de 2026):

La licencia se comprueba en la fuente oficial para la versión exacta que se va a usar, porque cambia de una generación a otra. Más allá de la licencia, el modelo se elige por la tarea: clasificar y extraer datos no pide lo mismo que redactar o razonar sobre un contrato. Lo desarrollamos en cómo elegir el modelo de IA adecuado. Y una recomendación de diseño: que el sistema no dependa de un modelo concreto, para poder cambiarlo cuando salga uno mejor sin rehacer nada.

Cómo conectar la IA on-premise a tus datos

Un modelo recién instalado no sabe nada de tu empresa. Se le da acceso a tus datos de dos maneras, y casi todos los proyectos combinan las dos:

• Documentos, con RAG. Contratos, manuales, procedimientos y fichas técnicas se indexan para buscarlos por significado. Cuando alguien pregunta, el sistema recupera los fragmentos relevantes y el modelo responde a partir de ellos, citando de dónde sale cada dato. Lo explicamos en qué es RAG.
• Sistemas, con conectores. Para cifras que cambian cada minuto (saldos, stock, pedidos) no se copia nada: la IA consulta el ERP en el momento a través de su API. Para sistemas de terceros existe MCP, un estándar abierto para conectar asistentes a aplicaciones, que contamos en nuestra página de servidor MCP.

La calidad de las respuestas depende de la calidad de las fuentes. Antes de conectar, merece la pena revisar qué documentos están vigentes, cuáles se contradicen y qué carpetas no deberían entrar nunca, como nóminas o expedientes de personal.

Qué controles necesita una IA privada antes de abrirla al equipo

Tener el servidor en casa resuelve dónde están los datos, pero no quién los ve. Estos son los controles que pedimos a cualquier implantación antes de abrirla:

• Identidad heredada. Cada persona entra con su cuenta y la IA actúa con sus permisos. Si alguien no puede abrir un documento a mano, tampoco lo verá a través de la IA.
• Solo lectura de partida. Cada conexión nace en lectura, y la escritura se activa sistema a sistema cuando el caso lo pide.
• Proponer y confirmar. Cuando la IA prepara algo con efecto real, lo enseña y espera la confirmación de una persona.
• Registro. Cada interacción queda anotada para poder revisar qué se preguntó, qué se respondió y qué se hizo.
• Nada sale por defecto. Si en algún caso se decide usar un modelo en la nube, es una decisión explícita y documentada.

Estos controles son los que aplicamos en nuestro Asistente IA, que funciona en servidores propios. Cómo se aplican a agentes que además actúan sobre tus sistemas lo explicamos en agentes de IA privados en tus servidores.

IA on-premise, RGPD y Reglamento de IA

Ejecutar la IA en tus servidores facilita cumplir el RGPD, porque los datos personales no se transfieren a un tercero para procesarlos. Pero el RGPD no se cumple solo por la ubicación del servidor: sigue haciendo falta definir la finalidad, la base legal, quién accede, cuánto tiempo se conserva cada dato y cómo se registra la actividad. Lo tratamos en IA y RGPD.

Además, el Reglamento (UE) 2024/1689, conocido como Reglamento de IA, establece obligaciones según el uso que se haga de la inteligencia artificial y no según dónde se ejecute. Un asistente interno sobre documentación y un sistema que interviene en decisiones sobre personas no tienen las mismas obligaciones. Esto es información general, no asesoría jurídica: el encaje de cada caso lo valora tu asesor legal.

De qué depende el coste de implantar IA on-premise

El coste tiene una parte de inversión y otra recurrente, y conviene verlas juntas porque la comparación con la nube solo es justa a varios años vista:

• Inversión inicial. El servidor, dimensionado por modelo y concurrencia, y la puesta en marcha: conectores, permisos, indexado de documentos y ajuste con preguntas reales.
• Coste recurrente. Energía, mantenimiento del servidor, actualizaciones del modelo y del software, monitorización y copias. Si no tienes equipo de sistemas, esto se cubre con un servicio de administración de servidores.
• Lo que no cambia con el uso. A diferencia de un servicio que cobra por consulta, el coste por pregunta deja de crecer con el volumen. Por eso la IA on-premise compensa más cuanto más alto y continuo es el uso.

No publicamos un precio cerrado porque depende de las fuentes de datos y del alcance. Lo cerramos después de la prueba inicial, cuando ya se sabe qué hay que servir y a cuántas personas.

Quién implanta IA privada en España y qué pedirle

Implantar IA on-premise mezcla tres oficios: sistemas (el servidor, la red, las copias), integración (el ERP, el correo, los documentos) y producto (qué se pregunta y cómo se mide). Al elegir a quien te acompañe, pide que te enseñe cómo resuelve estas cuatro cosas:

• Cómo hereda la IA los permisos de cada persona y cómo lo comprobáis.
• Qué queda registrado y quién puede consultarlo.
• Qué pasa si quieres cambiar de modelo dentro de un año.
• Quién mantiene el servidor y el modelo después de la puesta en marcha.

En 3L Systems llevamos más de 20 años con sistemas y ERP de empresas, somos partner de Microsoft y montamos IA privada conectada a Business Central, a Vindex, al correo de Microsoft 365 y a documentos. Si tu empresa está en la zona de Valencia, tienes más detalle en nuestra consultoría de IA en Valencia.