Z dumą ogłaszamy premierę naszego lokalnie dostrojonego modelu sztucznej inteligencji (AI), skrupulatnie opracowanego przez zespół Matrix42 AI w naszym dedykowanym klastrze obliczeniowym. Inicjatywa ta opiera się na najnowocześniejszym wielojęzycznym modelu Mistral Nemo firmy Mistral AI, wykorzystując konfigurację 12B-Instruct, aby osiągnąć optymalną równowagę między wydajnością operacyjną a wydajnością analityczną.

Głównym celem projektu było zwiększenie możliwości wielojęzycznych modelu bazowego, ze szczególnym naciskiem na poprawę znajomości języka fińskiego, przy jednoczesnym utrzymaniu wyjątkowej wydajności w zakresie języka angielskiego.

Model ten został zaprojektowany specjalnie z myślą o realizacji kluczowych zadań w sektorze zarządzania usługami informatycznymi (ITSM), w tym:

• Zakończenie : Pomoc konsultantom poprzez generowanie treści odpowiedzi na zgłoszenia użytkowników.
• Korekta stylu : poprawa gramatyki, pisowni i profesjonalnego tonu w komunikacji konsultantów.
• Podsumowanie : Pro zwięzłych podsumowań wątków zgłoszeń.
• Generowanie rozszerzonej wiedzy (RAG) : odpowiadanie na zapytania użytkowników przy użyciu zewnętrznych źródeł wiedzy, takich jak bazy danych, strony internetowe i dokumenty PDF.
• Obsługa języka Markdown : odpowiadanie na pytania użytkowników za pomocą wyników sformatowanych w języku Markdown lub danych tabelarycznych.
• Tłumaczenie : Tłumaczenie treści ze szczególnym uwzględnieniem języka fińskiego i angielskiego.

Proces szkolenia wykorzystywał połączenie syntetycznych i publicznie dostępnych zbiorów danych. Syntetyczne zbiory danych wygenerowano przy użyciu wysokiej jakości, komercyjnie opłacalnych modeli, natomiast publiczne zbiory danych wybrano z zachowaniem ścisłych zasad licencyjnych. Wszystkie dane przeszły rygorystyczną, ekspercką moderację, obejmującą formatowanie, czyszczenie i walidację, aby zapewnić zgodność z wymaganiami szkolenia.

Model Mistral Nemo wykazał się wyjątkową elastycznością podczas dostrajania do nowych zadań, co przełożyło się na znaczącą poprawę wydajności w zdefiniowanych scenariuszach w porównaniu z modelem bazowym.

W przyszłości zamierzamy rozszerzyć możliwości modelu poprzez opracowanie nowych funkcji specyficznych dla ITSM, dodanie dodatkowych przykładów dostrajania oraz poprawę obsługi języka szwedzkiego i niemieckiego. Naszym celem jest zachowanie kompaktowego rozmiaru modelu przy jednoczesnym zapewnieniu wysokiej jakości działania w specjalistycznych aplikacjach, bez rozszerzania funkcjonalności na zadania ogólnego przeznaczenia (np. encyklopedyczne zdobywanie wiedzy czy odgrywanie ról).