Yleiskatsaus

AI Knowledge perustuu Retrieval-Augmented Generation (RAG) -menetelmään, joka on kehittynyt tekoälylähestymistapa ja joka tehostaa suuria kielimalleja (LLM) hakemalla tietoa dynaamisesti määritetyistä lähteistä reaaliajassa. Toisin kuin tavalliset tekoälymallit, jotka nojautuvat pelkästään aiemmin opetettuun dataan, RAG hakee dynaamisesti relevantteja dokumentteja määritetyistä tietokannoista ennen vastauksen muodostamista. Tämä varmistaa, että tekoälyn tuottamat vastaukset ovat paitsi asiayhteyteen sopivia myös ajantasaisia, minkä ansiosta tämä teknologia on erityisen hyödyllinen IT-palveluhallinnassa (ITSM) ja yritysympäristöissä, joissa tieto muuttuu jatkuvasti.

Matrix42 tarjoaa joustavia käyttöönottovaihtoehtoja tekoälypohjaisille ratkaisuille. Kun käytössä on CAI (Conversational AI) -alusta, jossa paikallisesti isännöidyt luonnollisen kielen käsittelyn (NLP) ja suuren kielimallin (LLM) komponentit ovat kokonaan Matrix42:n omistamia ja ylläpitämiä, ulkopuolisia palveluntarjoajia ei ole mukana missään tietojenkäsittelyn vaiheessa. Kaikki data pysyy asiakkaan infrastruktuurissa tai hyväksytyissä Matrix42:n isännöimissä ympäristöissä (esim. EU:n alueella), mikä varmistaa täyden hallinnan infrastruktuurista, tiedonkulusta ja vaatimustenmukaisuudesta.

Vaihtoehtoisesti asiakkaat voivat integroida ulkoisia LLM-palveluntarjoajia, kuten Azure OpenAI Servicen tai OpenAI:n. Tällöin vastauksen muodostamiseen tarvittava agentin syöte ja konteksti siirretään valitun palveluntarjoajan infrastruktuuriin ja käsitellään sen alueellisten isännöinti- ja tietosuojakäytäntöjen mukaisesti. Huomaa: Jos käytössä on omia malleja, Matrix42 ei vastaa tuotettujen vastausten laadusta.

Matrix42 GenAI voi tehostaa AI Knowledgea hyödyntämällä Retrieval-Augmented Generation (RAG) -menetelmää. Tämä mahdollistaa sen, että tukiagentit saavat tarkkoja, kontekstitietoisia vastauksia organisaation sisäisen tiedon perusteella, kuten:

• IT-palveludokumentaatio.
• Tietokannat.
• Yrityksen käytännöt.
• Sisäiset arkistot (wikit, PDF-tiedostot, Confluence ja strukturoidut tietolähteet).

Malli varmistaa, että vain valtuutettua ja relevanttia tietoa haetaan ja jaetaan, mikä parantaa agenttien tehokkuutta ja tapausten ratkaisukykyä ja samalla vähentää IT-tukitiimien työkuormaa.

Mahdolliset widget-upotukset:

• M42 Pro (Agent Widget)
• MS Teams

Tietolähteet

AI Knowledge tukee seuraavia tietolähteitä:

• M42 Core/Pro and Enterprise
• SharePoint
• Confluence
• DokuWiki
• HelpJuice
• Verkkosivut – tukee sivuja, joiden elementtejä ei luoda dynaamisesti.
• Paikalliset tiedostot – tuetut muodot: CSV, XLS/XLSX, DOCX, PDF.

Käytettävissä olevat suoritusympäristöt

• M42 local GenAI (Suomi, Saksa)
• Bring Your Own Model (Azure OpenAI / OpenAI)

Lisäominaisuudet

Palomuuri

Järjestelmässä on tietoturvamekanismeja, joilla rajoitetaan pääsyä valtuuttamattomiin resursseihin ja hallitaan tiedonkulkua turvallisuuden varmistamiseksi. Palomuuri voi perustua OpenAI:hin, Azure OpenAPI -suoritusympäristöön tai paikalliseen luokittelumalliin.

Reranking

Mekanismi, joka lajittelee dokumentit niiden relevanssin perusteella annettuun kyselyyn nähden.
Parhaiden dokumenttien valinta kehotteeseen relevanssipisteytyksen perusteella.

Koko tekstin haku (FTS)

Koko tekstin haku, joka mahdollistaa relevanttien katkelmien hakemisen dokumenteista ja tiedostoista.

Järjestelmän työnkulku

Agentti lähettää kyselyn – vuorovaikutus tapahtuu widgetin tai muun ITSM:ään integroidun järjestelmäliittymän kautta.

Upotuksiin perustuva haku – kysely koodataan vektoriksi ja sitä verrataan tietokannassa oleviin dokumentteihin.

Järjestäminen ja uudelleenjärjestäminen (reranking) – järjestelmä lajittelee tulokset relevanssin perusteella.

Parhaat dokumentit sisällytetään kehotteeseen – valittua sisältöä käytetään vastauksen muodostamiseen.

GPT muodostaa vastauksen – malli tuottaa vastauksen järjestelmän kehoteohjeiden ja valittujen dokumenttien perusteella.

Kontekstin käsittely

Järjestelmä tukee jatkokysymyksiä, jolloin agentit voivat jatkaa keskustelua kontekstin jatkuvuutta ylläpitäen.

• Mahdollisuus poistaa konteksti käytöstä itsenäisiä vastauksia varten.

Automaattinen tietojen päivitys

Mahdollisuus hakea tietoa ajoittain uudelleen, esim. uudet tietokanta-artikkelit.
Varmistaa ajantasaisen tiedon aikataulutettujen lähdepäivitysten avulla.

Tietojenkäsittely ja yksityisyys

Matrix42 käsittelee ainoastaan sitä dataa, joka on tarpeen relevantin ja tarkan vastauksen tuottamiseksi. Tähän kuuluu tyypillisesti agentin syöte (kysely), M42 Pro -alustan sovellettavat kontekstiattribuutit sekä organisaation tietokannasta haettu relevantti sisältö.

Oletusarvoisesti keskustelutallenteita säilytetään 12 kuukauden ajan. Tätä säilytysaikaa voidaan mukauttaa asiakkaan toiveiden tai sisäisten käytäntöjen mukaan. Vuorovaikutusten aikana kerättyä dataa ei käytetä tekoälymallien opettamiseen. Matrix42 ei käsittele, tallenna tai lataa mitään arkaluonteista tai henkilötietoa enempää kuin mitä vastauksen tuottaminen ehdottomasti edellyttää.

Seuraavat tietopisteet tallennetaan järjestelmälokeihin auditointia ja seurantaa varten:

• question – agentin kysymys.
• response – edellinen vastaus, joka mahdollistaa kontekstin jatkuvuuden.
• sessionId – keskustelusession yksilöivä tunniste.
• addressIp – agentin IP-osoite (jos saatavilla).
• startTime – session aloitusajan aikaleima.
• processingTime – vastauksen tuottamiseen kulunut aika [s].
• rawQuestion – agentin lähettämä alkuperäinen syöte.
• rawResponse – tekoälymallin tuottama käsittelemätön vastaus.