Wir freuen uns, die Veröffentlichung unseres lokal optimierten KI-Modells bekannt zu geben, das vom Matrix42 KI-Team auf unserem dedizierten Rechencluster sorgfältig entwickelt wurde. Diese Initiative basiert auf dem hochmodernen mehrsprachigen Mistral Nemo-Modell von Mistral AI und nutzt die 12B-Instruct-Konfiguration, um ein optimales Gleichgewicht zwischen operativer Effizienz und analytischer Leistung zu erreichen.

Das Hauptziel dieses Projekts bestand darin, die Mehrsprachigkeit des Basismodells zu verbessern, wobei der Schwerpunkt insbesondere auf der Verbesserung der Finnischkenntnisse lag, während gleichzeitig eine außergewöhnliche Leistung in Englisch aufrechterhalten wurde.

Das Modell wurde speziell für die Bewältigung kritischer Aufgaben im IT-Service-Management-Sektor (ITSM) entwickelt, darunter:

• Abschluss : Unterstützung von Beratern durch Generieren von Antwortinhalten für Benutzertickets.
• Stilkorrektur : Verbesserung der Grammatik, Rechtschreibung und des professionellen Tons in der Kommunikation mit Beratern.
• Zusammenfassung : Erstellen Pro Zusammenfassungen von Ticket-Threads.
• Retrieval-Augmented Generation (RAG) : Beantwortung von Benutzeranfragen unter Verwendung externer Wissensquellen wie Datenbanken, Websites und PDF-Dokumenten.
• Markdown-Unterstützung : Beantworten von Benutzerfragen mit Ausgaben im Markdown- oder Tabellenformat.
• Übersetzung : Übersetzen von Inhalten mit Schwerpunkt auf Finnisch und Englisch.

Der Trainingsprozess nutzte eine Mischung aus synthetischen und öffentlich zugänglichen Datensätzen. Synthetische Datensätze wurden mithilfe hochwertiger, kommerziell nutzbarer Modelle generiert, während öffentliche Datensätze unter strenger Lizenzeinhaltung ausgewählt wurden. Alle Daten wurden einer strengen Expertenmoderation unterzogen, einschließlich Formatierung, Bereinigung und Validierung, um die Übereinstimmung mit den Trainingsanforderungen sicherzustellen.

Das Mistral Nemo-Modell zeigte eine außergewöhnliche Flexibilität bei der Feinabstimmung für neue Aufgaben, was im Vergleich zum Basismodell zu erheblichen Leistungsverbesserungen in definierten Szenarien führte.

In Zukunft wollen wir die Fähigkeiten des Modells erweitern, indem wir neue ITSM-spezifische Funktionen entwickeln, zusätzliche Beispiele für die Feinabstimmung integrieren und die Unterstützung für Schwedisch und Deutsch verbessern. Unser Ziel ist es, die kompakte Modellgröße beizubehalten und gleichzeitig eine hohe Leistung in spezialisierten Anwendungen zu gewährleisten, ohne die Funktionalität auf allgemeine Aufgaben (z. B. enzyklopädisches Wissen oder Rollenspiele) auszudehnen.