Infrastructure IA

L’IA générative peut aujourd’hui être bien plus qu’un simple service de chat public. Les entreprises peuvent exploiter leur propre environnement d’IA, dans lequel les collaborateurs travaillent avec différents modèles, traitent des documents internes et utilisent l’IA pour les aider dans les tâches récurrentes.

Open WebUI fournit pour cela une interface puissante et disponible gratuitement. Elle peut être connectée à différents modèles d’IA et offre un environnement commun pour les utilisateurs, les conversations et d’autres fonctions.

La question décisive n’est donc pas de savoir si Open WebUI peut être installé.

La question décisive est de savoir comment l’environnement qui se trouve derrière est conçu et qui l’exploite.

Comment est structurée une infrastructure d’IA ?

Une application d’IA comporte plusieurs composants qu’il convient de distinguer.

Open WebUI est l’interface avec laquelle les utilisateurs travaillent. Ils s’y connectent, ont des conversations, recherchent dans leur historique de discussions et peuvent, selon la configuration, intégrer des fichiers et des documents.

Les historiques de conversations, les informations sur les utilisateurs et d’autres données sont stockés sur le serveur prévu à cet effet.

Le modèle d’IA proprement dit traite les données transmises et génère une réponse.

Le fonctionnement peut être simplifié comme suit :

Utilisateur
   │
   ▼
Open WebUI
   │
   ├── sur un serveur dédié
   │     ├── dans l’entreprise
   │     └── chez un hébergeur approprié
   │
   ├── historiques / fichiers
   │
   ▼
Ordinateur IA
   │
   ├── dans l’entreprise
   └── chez un hébergeur approprié
   │
   ▼
Open WebUI

Le serveur et l’ordinateur IA peuvent se trouver au même endroit, mais aussi être exploités sur des sites différents. L’essentiel est que l’infrastructure technique et les flux de données restent transparents. L’entreprise décide quels composants sont exploités dans ses propres locaux et lesquels sont fournis à l’extérieur. Je vous conseille lors de la planification, du choix et de la mise en œuvre de la solution adaptée.

Open WebUI est plus qu’une fenêtre de chat

Open WebUI peut être considéré, en termes simples, comme un environnement propre à l’entreprise, similaire à ChatGPT.

Open WebUI est lui-même disponible gratuitement. Il n’y a ni abonnement ni publicité. Le logiciel est exploité sur une infrastructure choisie par l’entreprise et connecté aux modèles d’IA souhaités.

Les collaborateurs peuvent y utiliser leur historique de conversations, rechercher des conversations, intégrer des documents et utiliser différents modèles d’IA, selon la configuration.

Les utilisateurs et les droits d’accès peuvent être gérés au sein de l’environnement. Les fonctions et les modèles disponibles peuvent être définis pour chaque environnement.

Fonctions principales en un coup d’œil :

• Historiques de conversations
• Recherche dans les conversations
• Documents et fichiers
• Différents modèles d’IA
• Utilisateurs et droits d’accès
• Fonctions supplémentaires selon la configuration, par exemple la recherche sur le Web

Open WebUI peut ainsi constituer une interface centrale pour l’IA générative au sein de l’entreprise.

Tester Open WebUI

WebConcept One exploite sa propre instance d’Open WebUI, qui vous permet de vous faire une idée directe de l’interface et de ses possibilités.

Tester Open WebUI

Applications pratiques de l’IA

Les modèles locaux n’atteignent pas nécessairement les capacités des modèles Frontier actuels. Pour les tâches mentionnées, des modèles d’IA plus petits peuvent déjà suffire et être exécutés sur un matériel relativement abordable. Avec un matériel plus puissant, il est également possible d’utiliser des modèles locaux plus grands, qui continuent par ailleurs à être développés.

Par exemple :

• Rédaction de brouillons d’e-mails à partir de quelques points clés
• Préparation et structuration d’informations
• Résumés de textes plus longs
• Brouillons de traduction
• Préparation de communications récurrentes
• Assistance à la recherche dans des documents internes
• Vérification de textes et premiers signalements d’éventuelles incohérences

Par exemple, un service de traduction peut utiliser un modèle local pour créer un premier brouillon de traduction. La vérification professionnelle et linguistique reste du ressort du collaborateur.

L’IA ne remplace donc pas la prestation proprement dite. Elle peut prendre en charge une partie du travail préparatoire.

Pour ce type de tâches, les modèles locaux peuvent notamment être intéressants lorsque les contenus traités ne doivent pas quitter l’entreprise.

La protection des données commence par l’architecture technique

La question de la protection des données ne peut pas être réglée par un simple mot-clé dans le cadre d’un environnement d’IA.

Ce qui compte, c’est de savoir quelles données sont effectivement traitées et quels systèmes sont impliqués.

Il peut notamment s’agir :

• des historiques de conversations enregistrés
• des comptes utilisateurs
• des fichiers et documents téléchargés
• des données transmises à un modèle d’IA
• des données de journalisation et d’administration
• des sauvegardes et de leurs emplacements de stockage

Lorsque des modèles locaux sont utilisés, le traitement peut avoir lieu au sein de sa propre infrastructure.

Lorsqu’un environnement d’IA fonctionne sur une infrastructure exploitée par WebConcept One, les responsabilités et les droits d’accès correspondants sont définis de manière transparente. Lorsqu’un traitement de données pour le compte d’un client s’applique, celui-ci est réglementé contractuellement, par exemple au moyen d’un accord de traitement des données.

La transparence de l’infrastructure constitue la base d’une gestion compréhensible des données traitées.

Le point de départ n’est pas l’affirmation « tout est conforme au RGPD », mais la question suivante :

Que se passe-t-il exactement avec quelles données, à quel endroit – et qui peut accéder à quoi ?

Quels modèles et quelle puissance de calcul ?

Différents modèles peuvent être utilisés pour le traitement par IA. Le choix du modèle approprié dépend notamment des tâches, de la qualité souhaitée et de la puissance de calcul nécessaire.

Outre les modèles propriétaires performants des grands fournisseurs, il existe des modèles Open-Weight qui, selon le modèle, la licence et la puissance de calcul requise, peuvent également être exploités sur du matériel propre.

Les modèles locaux n’atteignent pas nécessairement les capacités des modèles Frontier actuels. Pour de nombreuses tâches pratiques, il n’est toutefois pas nécessaire d’utiliser toute la puissance maximale d’un modèle.

Par exemple, un modèle plus petit peut rédiger un brouillon d’e-mail à partir de quelques points clés, résumer un texte, structurer des informations ou préparer un brouillon de traduction.

La question décisive est donc de savoir quel modèle fournit des résultats suffisamment bons pour la tâche concernée et quelle puissance de calcul est nécessaire.

Je vous conseille dans le choix des modèles adaptés, les teste pour les tâches prévues et évalue la puissance de calcul IA nécessaire.

La puissance de calcul nécessaire peut être fournie de différentes manières. Elle peut être mise à disposition par WebConcept One ou installée au sein de l’entreprise.

Si une infrastructure IA propre à l’entreprise est pertinente, je vous accompagne dans le choix, le dimensionnement et la mise en place de l’ordinateur IA.

Les modèles peuvent être testés et comparés. De nouveaux modèles peuvent être ajoutés ultérieurement ou les modèles existants remplacés.

Le choix du modèle n’est donc pas une décision unique qui détermine l’ensemble de l’environnement.

Ce que l’offre peut comprendre

L’étendue concrète des prestations dépend de l’architecture souhaitée et des besoins de l’entreprise.

Les prestations peuvent notamment comprendre :

• Planification de l’architecture technique
• Installation et configuration d’Open WebUI
• Sélection et test de modèles d’IA adaptés
• Mise en place des utilisateurs et des droits d’accès
• Configuration du stockage et de la gestion des données
• Mise en place d’un ordinateur IA
• Connexion et configuration de la puissance de calcul IA
• Configuration des sauvegardes
• Documentation de l’environnement
• Formation des collaborateurs et des administrateurs
• Assistance pour l’administration ultérieure

Les composants exploités directement par l’entreprise et les tâches prises en charge peuvent être définis individuellement.

Exploiter soi-même ou faire accompagner l’exploitation

Une infrastructure IA propre à l’entreprise ne doit pas nécessairement être exploitée durablement par un prestataire externe.

Après la mise en place technique, l’environnement est documenté, notamment sa structure et les tâches nécessaires à son exploitation courante.

Il peut notamment s’agir de :

• Mise à jour d’Open WebUI
• Mises à jour du système d’exploitation et de sécurité
• Contrôle de l’espace de stockage disponible
• Gestion des utilisateurs et des droits
• Sauvegardes et restauration
• Mise à jour et remplacement des modèles d’IA
• Maintenance et extension du matériel IA

L’administration nécessaire peut ensuite être assurée en interne ou faire l’objet d’une assistance selon les besoins.

La prestation ne s’arrête donc pas nécessairement à l’installation. Elle peut également comprendre la planification, la formation, la documentation et la remise d’un environnement que l’entreprise maîtrise pleinement.

Un environnement d’IA individuel adapté aux besoins concrets

L’infrastructure appropriée dépend des besoins de l’entreprise. Je vous conseille lors de la planification, clarifie les exigences techniques et mets en œuvre avec vous l’environnement choisi.

Si l’infrastructure IA doit être exploitée au sein de l’entreprise, les systèmes existants peuvent être intégrés ou des serveurs et du matériel IA peuvent être construits et configurés en fonction des besoins. L’infrastructure nécessaire peut également être fournie à l’extérieur.

La solution reste évolutive après sa mise en place. Les modèles, la puissance de calcul et les autres composants peuvent être adaptés lorsque les besoins évoluent.

Vous souhaitez savoir à quoi pourrait ressembler un tel environnement d’IA dans votre entreprise ? Lors d’un premier entretien sans engagement, nous clarifierons vos besoins et les différentes possibilités de mise en œuvre.