cuando la IA la controlas tú

Se les conoce como modelos de pesos abiertos y son los que se utilizan en la inteligencia artificial local. A diferencia de servicios de IA en la nube, estos modelos se ejecutan directamente en el hardware propio -ordenador, móvil o servidor interno- sin enviar datos a la nube ni requerir conexión a internet.

De todo ello habla el ingeniero de software y divulgador tecnológico Brais Moure, conocido en el mundo digital por su marca personal MoureDev en un tutorial publicado en YouTube. El video dura más de 72 minutos y supera ya las 237.000 visualizaciones teniendo en cuenta que la mayoría de sus más de 3 millones de seguidores en redes son de perfil tecnológico.

Valga el dato de las visualizaciones para hacernos una idea de la relevancia que está cobrando la IA local en la comunidad. A él recurrimos para que nos explique a qué obedece dicho interés, aún a riesgo de simplificar demasiado los conceptos.

IA en la nube vs. local

La IA que actualmente utilizamos la mayoría es la que nos proporcionan los grandes modelos del lenguaje (LLMs). En esta categoría lideran el mercado soluciones como ChatGPT de OpenAI, Gemini de Google o Claude de Anthropic. 

Trabajar con ellos exige estar conectados a internet para enlazarnos a una IA. A la plataforma subimos un documento, una imagen o lanzamos una pregunta que viaja por internet hasta llegar a los supercomputadores de la empresa de IA. La traducen, la procesan y en un instante nos devuelven el resultado. Allí quedan nuestros datos almacenados en un servidor en la nube que puede estar en EE.UU, Europa o cualquier otro punto. 

En este caso hablamos de una IA privada, es decir, de código cerrado que solo conoce la empresa. Se ejecuta de forma exclusiva dentro de la infraestructura propia de la compañía. 

En cambio, una IA local permite instalar directamente en el ordenador u otro dispositivo personal un modelo de IA. En este caso, podemos desconectar el cable de internet, subir el documento al programa y este se traduce usando solo la potencia de tu máquina (memoria RAM y GPU). Nada de datos viajando ni servidores externos. 

Aquí la IA es de código abierto. Sus modelos permiten ver, usar, cambiar y compartir el código y los pesos del sistema para moldearlos o ajustarlos a las necesidades del usuario. 

Los modelos de pesos abiertos 

La instalación de estos modelos es, entonces, ineludible porque aprovechamos la infraestructura del propio ordenador, como es la memoria RAM o la tarjeta gráfica para que corra la IA.

Aunque pueda parecer paradójico, la mayoría de los modelos de IA local los lanzan al mercado las mismas compañías de primer nivel. Así, mientras que Google ofrece, por un lado Gemini, por otro ofrece Gemma, mucho más pequeño y de código abierto. Otros son Llama, de Meta; Qwen, de Alibaba; o Phi, de Microsoft. La estrategia radica en capturar más cuota de mercado y retener a clientes corporativos exigentes con la privacidad.

No obstante, señala Brais Moure, que el mercado actual lo domina China con modelos muy potentes equiparables, en algunos casos, a los grandes modelos. Alibaba y DeepSeek estarían a la cabeza.

Ventajas

El uso de modelos locales destaca por tres beneficios principales que refiere MoureDev:

Privacidad. Si el documento que subes a una IA privativa contiene secretos comerciales o datos sensibles, estás asumiendo un riesgo de privacidad. En una IA local el problema desaparece porque no estás compartiendo tus datos para los fines que decida la empresa de turno.

Gratuidad. Aunque muchos de los grandes modelos nacieron dentro de organizaciones originalmente sin ánimo de lucro, como era la propuesta de OpenAI, la realidad ha sido muy distinta. No solamente han establecido el pago de suscripciones sino que han ido en aumento.

Verdad que estas grandes compañías de modelos cerrados no paran de perder miles de millones de dólares cada mes. Aún pagando una suscripción de, por ejemplo, 20€ en ChatGPT, nos siguen regalando 100 o 200€. Sin embargo, para el uso profesional, que es el que está generando más dinero, dependiendo del negocio y el rendimiento que se obtenga, igual no compensa pagar 500 o 1.000€ de suscripción mensual para utilizar esta IA.

Algunas empresas aplican ya recortes y están reestructurando drásticamente las suscripciones a herramientas de IA para sus profesionales. Con la IA local el desembolso lo haces al principio, pero te ahorras pagos recurrentes.

Autonomía. Ya se ha dicho que la IA local no requiere conexión a internet. Se suma a ello la posibilidad de trabajar sobre estos modelos abiertos añadiendo capas. Puedes modificar las reglas, parámetros y adaptar el modelo a tus necesidades específicas.

Implementación de sistemas RAG: La capacidad de ‘tunear’ o personalizar modelos locales mediante sistemas RAG (Generación Aumentada por Recuperación) permite a las empresas integrar sus propios documentos y bases de datos para que la IA trabaje con información específica, privada y segura.

Desventajas

Pero tampoco hay que inflar las expectativas. Que nadie piense que va a poder competir con una gran empresa porque la IA local tiene sus limitaciones. Estas son las principales:

Menor capacidad de cómputo. Los modelos locales pequeños o medianos son menos inteligentes que los gigantes comerciales de la nube. Cualquier modelo que podamos correr en nuestro ordenador, por muy potente que sea la máquina, está a años luz de la infraestructura que utilizan las grandes. Esto puede limitar la ejecución de tareas complejas, aunque sea suficiente para funciones comunes.

Gasto en hardware. Ya se ha hablado de la gratuidad, pero lo cierto es que es relativa. Los ordenadores domésticos o los servidores de gran parte de las empresas tienen una capacidad bastante modesta. Aunque Moure asegura que muchas de las tareas que realizamos habitualmente las podemos ejecutar con 8GB libres de RAM, lo normal en una empresa que quiera sustituir el uso de un gran modelo por otro local es que tenga que hacer un fuerte desembolso inicial en hardware para mejorar el rendimiento y escalar las capacidades. También los servidores deberían ajustarse.

La latencia. Consecuencia del punto anterior es el tiempo que tardamos en recibir una respuesta si lo comparamos con un modelo en la nube. De hecho, MoureDev reconoce trabajar en paralelo con dos ordenadores al objeto de seguir avanzando en las tareas en uno mientras recibe las respuestas de la IA local en otro.

Conocimientos técnicos. Aunque han aparecido herramientas con interfaces gráficas sencillas -Moure pone como LM Studio- que facilitan la descarga e instalación de modelos mediante un ‘doble clic’, poner en marcha entornos más complejos o personalizados para el contexto corporativo exige conocimientos técnicos avanzados.

El camino a la hibridación

Expuestas las ventajas y las limitaciones, la clave, a juicio de este experto, es saber cuándo utilizar la IA local y cuándo la de la nube. A un ingeniero informático profesional, la primera en determinados casos podría quedarse corta.

No obstante, para tareas sencillas del día a día como pueden ser una traducción, generar ideas, redactar un contenido, o crear imágenes la IA local y los equipos que actualmente tenemos la mayoría son solventes. Su recomendación es probar con distintos programas hasta dar con el que de verdad responde a nuestras necesidades. También en esta IA tiene que primar nuestro criterio.

Si la privacidad es prioritaria

A tener en cuenta, también, si la privacidad es algo fundamental en la empresa. Organizaciones que manejan datos tan sensibles como los relacionados con la salud, bancarios o políticos deben garantizar el uso correcto de los mismos. Controlarlos es misión capital, algo que no siempre se asegura cuando pasan a ser manejo de otras compañías. En cualquier caso, las medidas de ciberseguridad son las mismas en la IA local que la de la nube.

Tampoco la necesidad de formar a los equipos y aportarles el conocimiento que precisan para manejar estas tecnologías es eludible en ninguno de los casos.

El futuro

La distancia entre la IA en la nube y la local es todavía significativa. Sin embargo, la segunda avanza de forma acelerada en parte gracias a la optimización del hardware y la compresión de modelos. La previsión de Moure es que estamos al principio de esta revolución que, a su juicio, es el futuro. Falta implementarla y eliminar fricciones técnicas para una democratización gradual. La tecnología se irá refinando para que cada vez más equipos, tanto domésticos como profesionales, puedan ejecutar IAs más potentes. 

Una vez que esto suceda, sostiene que la tendencia será hacia una adopción masiva, especialmente en organizaciones que gestionan datos sensibles.

“Piensa que te da control sobre la propia IA, que es algo que nosotros no tenemos. Con los grandes modelos no tienes control sobre la disponibilidad, pierdes de pista los datos y, al final, dependes de tener que estar pagándole a alguien”, son algunas de las razones por las que MoureDev cree que esta herramienta cobrará cada vez más importancia en el panorama empresarial.

Distinto es que pueda reemplazar totalmente a la IA en la nube. Así las cosas, el futuro apunta a un modelo donde el usuario y las empresas puedan elegir qué tareas delegar a la nube y qué tareas procesar localmente, garantizando así el equilibrio perfecto entre potencia, coste y seguridad.