Infraestructura de IA

IA generativa, adaptada a su infraestructura.

La IA generativa puede ofrecer hoy mucho más que un servicio público de chat. Las empresas pueden operar su propio entorno de IA, en el que los empleados trabajan con diferentes modelos, procesan documentos internos y utilizan la IA como apoyo para tareas recurrentes.

Open WebUI ofrece para ello una interfaz potente y disponible gratuitamente. Puede conectarse a diferentes modelos de IA y proporciona un entorno común para usuarios, conversaciones y otras funciones.

Por tanto, la cuestión decisiva no es si se puede instalar Open WebUI.

La cuestión decisiva es cómo se estructura el entorno que hay detrás y quién lo gestiona.

¿Cómo está estructurado un entorno de IA?

En una aplicación de IA hay que distinguir varios componentes.

Open WebUI es la interfaz con la que trabajan los usuarios. Aquí inician sesión, mantienen conversaciones, buscan en su historial de chats y, según la configuración, pueden integrar archivos y documentos.

Los historiales de chat, la información de los usuarios y otros datos se almacenan en el servidor previsto para ello.

El propio modelo de IA procesa las entradas transmitidas y genera una respuesta.

De forma simplificada, el proceso es el siguiente:

Usuario
   │
   ▼
Open WebUI
   │
   ├── en un servidor propio
   │     ├── dentro de la empresa
   │     └── con un proveedor de hosting adecuado
   │
   ├── historiales de chat / archivos
   │
   ▼
Ordenador de IA
   │
   ├── dentro de la empresa
   └── con un proveedor de hosting adecuado
   │
   ▼
Open WebUI

El servidor y el ordenador de IA pueden estar en el mismo lugar, pero también pueden funcionar en ubicaciones diferentes. Lo importante es que la infraestructura técnica y los flujos de datos sean transparentes. La empresa decide qué componentes se operan en sus propias instalaciones y cuáles se proporcionan externamente. Asesoro en la planificación, selección e implementación de la solución adecuada.

Open WebUI es más que una ventana de chat

Open WebUI puede entenderse, de forma simplificada, como un entorno propio similar a ChatGPT para una empresa.

Open WebUI está disponible gratuitamente. No hay suscripciones ni publicidad. El software se ejecuta sobre una infraestructura seleccionada por la empresa y se conecta con los modelos de IA deseados.

Los empleados pueden trabajar con sus historiales de chat, buscar conversaciones, integrar documentos y utilizar diferentes modelos de IA, dependiendo de la configuración.

Los usuarios y los derechos de acceso pueden gestionarse dentro del entorno. Las funciones y los modelos disponibles pueden definirse para cada entorno concreto.

Funciones principales de un vistazo:

  • Historiales de chat
  • Búsqueda en conversaciones
  • Documentos y archivos
  • Diferentes modelos de IA
  • Usuarios y permisos
  • Otras funciones según la configuración, por ejemplo, búsqueda web

De este modo, Open WebUI puede servir como una interfaz central para la IA generativa dentro de una empresa.

Pruebe Open WebUI usted mismo

WebConcept One opera su propia instancia de Open WebUI, donde puede hacerse una idea directa de la interfaz y sus posibilidades.

Probar Open WebUI

Aplicaciones prácticas de la IA

Los modelos locales no alcanzan necesariamente las capacidades de los modelos Frontier actuales. Para las tareas mencionadas pueden ser suficientes modelos de IA más pequeños, que pueden funcionar con un hardware comparativamente económico. Con un hardware más potente también pueden utilizarse modelos locales de mayor tamaño, que además se siguen desarrollando continuamente.

Por ejemplo:

  • Redacción de borradores de correos electrónicos a partir de puntos clave
  • Preparación y estructuración de información
  • Resumen de textos extensos
  • Borradores de traducción
  • Preparación de comunicaciones recurrentes
  • Apoyo en la búsqueda dentro de documentos internos
  • Revisión de textos y primeras indicaciones de posibles incoherencias

Por ejemplo, un servicio de traducción puede utilizar un modelo local para elaborar un primer borrador de traducción. La revisión profesional y lingüística sigue siendo responsabilidad del empleado.

La IA no sustituye el servicio propiamente dicho. Puede asumir una parte del trabajo previo.

Precisamente para este tipo de tareas, los modelos locales pueden resultar interesantes cuando el contenido procesado no debe salir de la empresa.

La protección de datos comienza con la arquitectura técnica

La cuestión de la protección de datos no puede responderse en un entorno de IA simplemente con una palabra clave.

Lo decisivo es qué datos se procesan realmente y qué sistemas intervienen en el proceso.

Entre ellos se encuentran, entre otros:

  • Historiales de chat almacenados
  • Cuentas de usuario
  • Archivos y documentos cargados
  • Datos transmitidos a un modelo de IA
  • Datos de registro y administración
  • Copias de seguridad y sus ubicaciones de almacenamiento

Cuando se utilizan modelos locales, el procesamiento puede realizarse dentro de la propia infraestructura.

Si un entorno de IA funciona sobre una infraestructura gestionada por WebConcept One, las responsabilidades y los derechos de acceso correspondientes se establecen de forma transparente. Cuando existe un tratamiento de datos por cuenta de terceros, se regula contractualmente, por ejemplo mediante un acuerdo de tratamiento de datos.

La transparencia sobre la infraestructura es la base para un tratamiento comprensible de los datos procesados.

La cuestión inicial no es afirmar que «todo cumple con el RGPD», sino preguntar:

¿Qué ocurre exactamente con qué datos, en qué punto, y quién puede acceder a qué?

¿Qué modelos y qué capacidad de procesamiento?

Para el procesamiento mediante IA pueden utilizarse diferentes modelos. Qué modelos son adecuados depende, entre otras cosas, de las tareas, de la calidad deseada y de la capacidad de procesamiento necesaria.

Además de los potentes modelos propietarios de grandes proveedores, existen modelos Open-Weight que, dependiendo del modelo, la licencia y la capacidad de procesamiento necesaria, también pueden ejecutarse en hardware propio.

Los modelos locales no alcanzan necesariamente las capacidades de los modelos Frontier actuales. Sin embargo, para muchas tareas prácticas tampoco es necesario utilizar toda la capacidad máxima de un modelo.

Por ejemplo, un modelo más pequeño puede crear un borrador de correo electrónico a partir de puntos clave, resumir un texto, estructurar información o preparar un borrador de traducción.

Por ello, lo decisivo es qué modelo ofrece resultados suficientemente buenos para la tarea concreta y qué capacidad de procesamiento se necesita para ello.

Asesoro en la selección de modelos adecuados, los pruebo para las tareas previstas y evalúo la capacidad de procesamiento de IA necesaria.

La capacidad de procesamiento necesaria puede proporcionarse de diferentes maneras. Puede ser proporcionada por WebConcept One o instalarse dentro de la empresa.

Si una infraestructura de IA propia resulta adecuada para la empresa, apoyo en la selección, dimensionamiento y configuración del ordenador de IA.

Los modelos pueden probarse y compararse entre sí. Posteriormente pueden añadirse nuevos modelos o sustituirse los existentes.

La elección del modelo no es, por tanto, una decisión única que determine todo el entorno.

Cómo puede estructurarse el servicio

El alcance concreto de los servicios depende de la arquitectura deseada y de los requisitos de la empresa.

Entre las posibilidades se incluyen:

  • Planificación de la arquitectura técnica
  • Instalación y configuración de Open WebUI
  • Selección y prueba de modelos de IA adecuados
  • Configuración de usuarios y derechos de acceso
  • Configuración del almacenamiento y la gestión de datos
  • Configuración de un ordenador de IA
  • Conexión y configuración de la capacidad de procesamiento de IA
  • Configuración de copias de seguridad
  • Documentación del entorno
  • Formación de empleados y administradores
  • Apoyo en la administración posterior

Qué componentes serán operados por la propia empresa y qué tareas se asumirán externamente puede determinarse de forma individual.

Gestionarlo internamente o contar con asistencia

Una infraestructura de IA propia no tiene que ser gestionada permanentemente por un proveedor externo.

Después de la configuración técnica se documenta cómo está estructurado el entorno y qué tareas son necesarias durante el funcionamiento habitual.

Entre ellas se encuentran, por ejemplo:

  • Actualización de Open WebUI
  • Actualizaciones del sistema operativo y de seguridad
  • Control del espacio de almacenamiento disponible
  • Gestión de usuarios y derechos
  • Copias de seguridad y restauración
  • Actualización y sustitución de modelos de IA
  • Mantenimiento y ampliación del hardware de IA

La administración necesaria puede asumirse posteriormente internamente o recibir asistencia cuando sea necesario.

Por tanto, el servicio no termina necesariamente con la instalación. También puede consistir en la planificación, formación, documentación y entrega de un entorno que la empresa comprenda plenamente.

Un entorno de IA adaptado a requisitos concretos

Qué infraestructura resulta adecuada depende de los requisitos de la empresa. Le asesoro en la planificación, aclaro los requisitos técnicos y pongo en marcha con usted el entorno elegido.

Si la infraestructura de IA se va a operar dentro de la empresa, pueden integrarse sistemas existentes o construirse y configurarse servidores y hardware de IA de acuerdo con los requisitos. La infraestructura necesaria también puede proporcionarse externamente.

La solución sigue siendo ampliable después de su implementación. Los modelos, la capacidad de procesamiento y otros componentes pueden adaptarse cuando cambien los requisitos.

¿Le gustaría saber cómo podría ser un entorno de IA de este tipo en su empresa? En una primera consulta sin compromiso aclararemos los requisitos y las posibles vías de implementación.