Retrieval-Augmented Generation (RAG) es una técnica que combina modelos generativos del lenguaje (LLMs) con sistemas de recuperación de documentos.
Durante la generación, el modelo consulta una base de conocimientos externa al LLM para recuperar información relevante en tiempo real.
A continuación, esta información se integra en la respuesta, garantizando la exactitud y el contenido actualizado.
RAG es útil en contextos en los que es necesario responder con datos actualizados o especializados no presentes en el modelo LLM que gestiona la comunicación con el usuario.
En concreto, GAIA está equipado con un entorno específico para cargar documentos de apoyo al RAG. Este entorno permite especializar las bases documentales en función de la naturaleza de la solicitud (por ejemplo, marketing, técnica, normativa, etc.), con el fin de ofrecer respuestas pertinentes y precisas.
GAIA también le permite recuperar los textos originales que hay detrás de cada respuesta, para poder comprobarlos inmediatamente si es necesario.

La naturaleza modular de GAIA permite una implementación flexible basada en varios modelos de lenguaje a gran escala (LMM).
La implementación estándar utiliza ChatGPT, aprovechando así la publicación continua de nuevas funciones, como también la inmensa potencia de cálculo que ofrecen los modelos full-web.
Basta pensar que se estima que ChatGPT 4 se basa en ocho modelos especializados, cada uno de los cuales implementa aproximadamente 200.000 millones de parámetros (pesos).
También es posible implementar GAIA en modo “full edge”, es decir, soportado exclusivamente por los recursos de un PLC o PC industrial, sin acceso a la web.
Esta arquitectura se basa en modelos lingüísticos de la familia LLaMA (Large Language Model Meta AI), que también pueden funcionar en máquinas sin unidad de procesamiento gráfico dedicada.
Como referencia, un modelo LLaMA con mil millones de pesos ocupa una memoria local del orden de 1 GB.
Además, es necesario proporcionar el espacio necesario para implementar el RAG localmente.
Esto significa que una implantación completa de GAIA debe centrarse en una misión específica para lograr una potencia y eficacia comparables a las de la versión web (por ejemplo, asistencia técnica para resolver paradas de máquinas, incluida la documentación técnica de la máquina y una base de datos histórica de tickets de mantenimiento en el RAG).
De todas maneras, la naturaleza modular de GAIA permite utilizar chatbots en la nube y full-edge uno al lado del otro, dependiendo del tipo de consulta y de la necesidad de poder utilizarlos sin conexión.

La plataforma G-Mation es especialmente adecuada para soportar la implantación de GAIA tanto en modo de nube como full-edge.
En primer lugar, la arquitectura docker permite implementar y actualizar fácilmente las aplicaciones dockerizadas de GAIA, incluso en máquinas que ya están en funcionamiento.
Además, la arquitectura de servidor web de G-Mation, gracias a la tecnología NGINX, permite gestionar backends adicionales, además del integrado en el PLC para el control y la configuración de la máquina.
En concreto, el backend contenido en el contenedor Docker de GAIA permite acceder a la aplicación directamente en el panel del operador de G-Mation, basado en tecnología web.
Es tan sencillo como abrir una nueva ventana en el navegador de su ordenador personal.
En cuanto a la implementación basada en la nube, la disponibilidad de una VPN dockerizada directamente en el PLC G-Mation permite acceder a la plataforma en la nube GAIA con total seguridad, sin tener que pasar por pasarelas adicionales.
En cuanto a la implementación full-edge, los 8 GB de memoria y la arquitectura multinúcleo de la CPU permiten realizar muchas tareas de apoyo al operador sin afectar en absoluto al control de la máquina.