Qu'est-ce que GenAI ?

L'IA générative ( GenAI ) désigne une catégorie de modèles d'intelligence artificielle capables de créer du contenu à partir de modèles appris à partir de vastes ensembles de données. Contrairement à l'IA traditionnelle, qui classe ou prédit principalement des résultats à partir de données existantes, l'IA générative peut générer dynamiquement du texte, des images, du code et d'autres formes de contenu.

Ces modèles, généralement basés sur des modèles de langage étendus (MLE) tels que Mistral, GPT ou LLaMA, traitent les données d'entrée, comprennent le contexte et produisent des réponses de type humain. Le mécanisme central de l'IA générative repose sur des architectures d'apprentissage profond, notamment des transformateurs, qui permettent une compréhension avancée du langage naturel et la génération de contenu.

Utilisation Matrix42 Local GenAI sur les plateformes M42 Core et Pro

Matrix42 local GenAI est un modèle d'IA sécurisé et entièrement autonome conçu pour optimiser les opérations de gestion des services informatiques (ITSM). En s'intégrant aux principaux outils d'IA d'entreprise, il permet la diffusion des connaissances, l'automatisation et l'assistance aux agents, tout en garantissant la confidentialité des données et la conformité.

Découverte de connaissances par l'IA (RAG) – Fournir des informations aux utilisateurs finaux

Matrix42 GenAI optimise la découverte de connaissances par l'IA grâce à la génération augmentée par récupération (RAG). Les utilisateurs finaux reçoivent ainsi des réponses précises et contextuelles, basées sur les connaissances internes de l'organisation, telles que :

• Documentation des services informatiques.
• Bases de connaissances.
• Politiques de l'entreprise.
• Référentiels internes (wikis, PDF, Confluence et sources de données structurées).

Le modèle garantit que seules les informations autorisées et pertinentes sont récupérées et partagées, améliorant ainsi les capacités de libre-service tout en réduisant la charge de travail des équipes de support informatique.

Actions IA – Création de contenu automatisée

Grâce aux actions IA, Matrix42 GenAI peut automatiser les tâches répétitives et manuelles des agents du service informatique. Cela comprend :

• Guide de uid automatisé.
• Déclenchement de flux de travail basés sur des recommandations générées par l'IA.
• Générer des réponses structurées et des résumés pour les problèmes informatiques.

En intégrant les actions d’IA dans les processus de gestion des services, les organisations peuvent améliorer l’efficacité, réduire le temps de résolution et améliorer la satisfaction des utilisateurs.

Assistance par e-mail AI – Aider Agent à rédiger des e-mails

L'assistance par e-mail IA s'appuie sur Matrix42 GenAI pour aider les agents de service à rédiger rapidement des e-mails professionnels et contextuellement pertinents, basés sur les détails des tickets et l'historique des réponses. Principaux avantages :

• Communication par courrier électronique cohérente et professionnelle.
• Des temps de réponse plus rapides grâce à la génération automatique de réponses.
• Réponses personnalisées en fonction des demandes des utilisateurs et des interactions précédentes.
• Corrections de grammaire et de style pour assurer une communication de qualité.

En utilisant l’assistance par e-mail de l’IA, les agents peuvent se concentrer sur la résolution des problèmes tandis que l’IA améliore la productivité et maintient la qualité de la communication.

Conclusion

Matrix42 local GenAI s'intègre parfaitement à AI Knowledge (RAG), AI Actions et AI Email Assist, offrant :

• Accès aux connaissances sécurisé et privé basé sur l'IA.
• Flux de travail informatiques automatisés pour soutenir les agents.
• Des outils de communication améliorés pour des réponses par e-mail plus rapides et plus professionnelles.

Avec une souveraineté totale des données et un déploiement local, les organisations peuvent exploiter la puissance de l'IA sans compromettre la sécurité ou la conformité, faisant de Matrix42 GenAI une solution d'IA fiable pour les opérations ITSM.

Principaux avantages

• Optimisé pour ITSM – Le modèle est spécifiquement adapté aux applications service desk .
• Prise en charge multilingue : anglais, finnois, suédois, allemand.
• Prise en charge RAG (avec produits pris en charge) – Capable de s’intégrer aux bases de connaissances, aux sites Web et aux référentiels de documents.
• Évolutivité – fonctionne sur le serveur d'inférence PUNA, gérant plusieurs textes de sortie à une vitesse confortable, même sur des GPU de centre de données rentables.
• Sécurité et confidentialité des données – Conçu pour la conformité réglementaire (par exemple, RGPD) et une protection robuste des données.

Détails techniques

• Modèle de base : Mistral Nemo 12B-Instruct.
• Méthode de réglage fin : LoRA (Low-Rank Adaptation).
• Quantification : Q6_K, Q8 (réduction des besoins en mémoire de moitié tout en maintenant une précision de 95 à 98 %).
• Longueur du contexte : prend en charge jusqu'à 128 000 jetons, mais 16 000 jetons sont optimaux pour les performances.
• Moteur d'inférence : PUNA (serveur d'inférence propriétaire Matrix42 ), compatible avec le format GGUF (llama.cpp).
• Configuration matérielle requise :
  
  • Minimum : GPU Nvidia CUDA avec 16 Go de VRAM (20 Go recommandés pour des performances optimales).
  • Déploiement du centre de données : prend en charge 4 requêtes simultanées avec une vitesse de > 15 jetons/s.
• Sources de données de formation :
  • Ensembles de données publics (sous licence appropriée).
  • Données synthétiques générées via des modèles commerciaux de haute qualité (uniquement ceux autorisés par la licence).
  • Ensembles de données de formation sélectionnés et validés manuellement.

Confidentialité des données

• Hébergement local disponible – Le modèle peut être déployé sur site, garantissant un contrôle total sur les données sensibles.
• Nous pouvons également fournir un modèle issu de notre infrastructure, deux options sont disponibles :
  • Equinix (Finlande)
  • Hetzner (Allemagne)
• Masquage et anonymisation des données – Aucune information personnellement identifiable (PII) n’est stockée pendant le traitement.
• Mécanismes de contrôle d'accès :
  • Les protections basées sur un pare-feu limitent les accès non autorisés.
  • Aucun appel API externe requis – Contrairement aux LLM basés sur le cloud, ce modèle n'envoie pas de requêtes aux API OpenAI externes, garantissant ainsi la résidence des données et la conformité en matière de confidentialité.
• Propriété complète des données par le client – Le client conserve la propriété exclusive des données tout au long du processus.
• Aucune donnée utilisée pour la formation du modèle – Les données client ne sont jamais utilisées pour la formation ou le réglage fin du modèle.
• Données utilisées uniquement pour les réponses – Les informations fournies au modèle sont uniquement utilisées pour générer des réponses et ne sont ni stockées ni traitées ultérieurement.
• Aucune donnée sensible ou d’authentification n’est transmise – Le modèle ne traite ni ne transmet d’informations d’identification d’authentification ni de données sensibles, garantissant ainsi la sécurité.
• Aucune conservation des données – Le modèle ne stocke aucune entrée utilisateur ni aucune réponse générée.
• Les journaux de service sont stockés localement - Seuls les administrateurs y ont accès, ils ne sont ni partagés ni traités.
• Il est possible de désactiver tous les journaux, mais cela réduira les capacités de débogage
• Hébergement de données contrôlé par le client – Les données au repos (base de connaissances, journaux, paramètres, plateforme CAI) seront hébergées à partir de serveurs sur lesquels s'exécute le système de gestion informatique du client :
  
  • Equinix (Finlande)
  • Noris (Allemagne)
  • Sur site / cloud privé

Ces mécanismes garantissent que Matrix42 GenAI offre une confidentialité complète des données, une conformité réglementaire et un déploiement sécurisé pour les environnements informatiques d'entreprise.

Conformité

• Conforme au RGPD – Adhère pleinement au règlement général Pro protection des données de l’UE, avec des options sur site pour garantir la souveraineté des données.
• Sécurité de l'intégration ITSM – Assure une authentification sécurisée et une gestion des jetons API pour l'intégration avec Matrix42 et les outils ITSM tiers.
• Formation de modèle sécurisée – Tous les ensembles de données de formation ont été obtenus sous licence appropriée et ont fait l’objet d’un examen manuel de conformité.
• Journaux et surveillance auditables – Les journaux ne stockent pas les entrées utilisateur sensibles mais permettent des audits de sécurité.

Conformité Matrix42 GenAI et à la EU AI Act

Matrix42 GenAI a été conçu et développé conformément aux principes réglementaires de la loi européenne sur l'IA, garantissant une utilisation fiable, transparente et sécurisée de l'IA au sein des environnements d'entreprise, notamment pour la gestion des services informatiques (ITSM). Les principales mesures de conformité comprennent :

1. Classification des risques et transparence de l'IA
   1. Matrix42 GenAI entre dans la catégorie des « risques limités », ce qui signifie qu'il ne pose pas de problèmes importants en matière de sécurité ou de droits fondamentaux.
   2. Il s'agit d'une IA d'assistance aux entreprises, qui assiste principalement les opérations de services informatiques sans prise de décision autonome qui affecte les droits ou les libertés juridiques des individus.
2. Surveillance humaine et explicabilité
   1. Le modèle ne fonctionne pas de manière autonome dans la prise de décisions critiques. Les opérateurs humains, tels que les agents des services informatiques, gardent le contrôle des résultats assistés par l'IA.
   2. Les réponses peuvent être auditées, examinées et modifiées par des agents humains avant d’être déployées dans des flux de travail critiques.
3. Biais et équité
   1. Le modèle a été formé à l’aide d’ensembles de données soigneusement sélectionnés, garantissant qu’il ne propage pas de biais injustes dans ses réponses.
   2. Un mécanisme de surveillance continue permet aux clients de valider les résultats et d’affiner les réponses en fonction des politiques de conformité internes.
4. Pro des données et confidentialité (alignement RGPD)
   1. Matrix42 GenAI suit des mesures strictes de confidentialité des données, garantissant que :
      1. Aucune donnée client n'est stockée ou utilisée pour le recyclage du modèle.
      2. Il ne conserve ni ne transfère d’informations sensibles en dehors de l’environnement client désigné.
      3. Il prend en charge le déploiement sur site et dans le cloud privé, permettant un contrôle complet de la résidence des données.
5. Sécurité et robustesse
   1. Matrix42 GenAI résiste aux manipulations adverses telles que les attaques par injection rapide, garantissant des réponses générées par l'IA fiables et sécurisées.
6. Rapports d'auditabilité et de conformité
   1. Le système fournit une journalisation et une surveillance pour les organisations qui ont besoin de pistes d'audit pour se conformer aux cadres de gouvernance de l'IA.
   2. Sur demande, tous les journaux peuvent être désactivés, conformément aux principes stricts de confidentialité dès la conception.