Mitä GenAI on?

Generatiivinen tekoäly (GenAI) on tekoälymallien luokka, joka pystyy luomaan uutta sisältöä laajoista tietoaineistoista opittujen mallien perusteella. Toisin kuin perinteinen tekoäly, joka pääasiassa luokittelee tai ennustaa tuloksia olemassa olevan datan perusteella, generatiivinen tekoäly voi tuottaa dynaamisesti tekstiä, kuvia, koodia ja muita sisältömuotoja.

Nämä mallit perustuvat tyypillisesti suuriin kielimalleihin (LLM), kuten muun muassa Mistral, GPT tai LLaMA, ja ne käsittelevät syötetietoa, ymmärtävät kontekstia ja tuottavat ihmismäisiä vastauksia. Generatiivisen tekoälyn taustalla oleva ydinmekanismi perustuu syväoppimisarkkitehtuureihin, erityisesti transformer-malleihin, jotka mahdollistavat edistyneen luonnollisen kielen ymmärtämisen ja sisällöntuotannon.

Matrix42 Local GenAI -ratkaisun hyödyntäminen M42 Pro Platform -alustalla

Matrix42 local GenAI on turvallinen ja täysin itsenäinen tekoälymalli, joka on suunniteltu tehostamaan IT-palveluhallinnan (ITSM) toimintoja. Integroitumalla keskeisiin yritystason tekoälytyökaluihin se mahdollistaa tiedon jakamisen, automaation ja agenttien tukemisen varmistaen samalla tietosuojan ja vaatimustenmukaisuuden.

AI Knowledge Discovery (RAG) – tiedon toimittaminen loppukäyttäjille

Matrix42 GenAI voi toimia AI Knowledge Discovery -ominaisuuden taustavoimana hyödyntämällä Retrieval-Augmented Generation (RAG) -tekniikkaa. Tämä mahdollistaa sen, että loppukäyttäjät saavat tarkkoja ja kontekstin huomioivia vastauksia organisaation sisäisen tiedon perusteella, kuten:

• IT-palveludokumentaatio.
• Tietopankit.
• Yrityksen käytännöt.
• Sisäiset tietovarastot (SharePoint, tietopankkiartikkelit, wikit, PDF-tiedostot, Confluence ja strukturoidut tietolähteet).

Malli varmistaa, että vain valtuutettu ja olennainen tieto haetaan ja jaetaan, mikä parantaa itsepalvelumahdollisuuksia ja vähentää IT-tukitiimien työkuormaa.

Actions – välittömiä tekoälyoivalluksia tarpeidesi mukaan

Actions-toiminto tuottaa tarvittaessa tutkivaa sisältöä, joka auttaa agentteja ymmärtämään tikettejä ja tekemään päätöksiä nopeammin ilman, että pysyvät kentät täyttyvät ylimääräisellä tiedolla. Muokattavan tekoälyn ansiosta asiakkaat voivat räätälöidä Actions-toiminnot omiin työnkulkuihinsa ja prioriteetteihinsa. Keskeisiä ominaisuuksia ovat muun muassa:

• Kontekstuaaliset yhteenvedot tiketin tilasta, historiasta tai ongelman etenemisestä – jaettavissa asiakkaille tai sidosryhmille.
• Nopeat käännökset kuvauksista ja viestinnästä.
• Ohjattu vianmääritys tiketin tietojen ja tunnettujen ratkaisujen perusteella.
• Älykkäät suositukset seuraaville vaiheille ja työnkulun laukaisimille.

Agentit voivat helposti kopioida ja hyödyntää tuotettuja oivalluksia tarpeen mukaan – lähettämällä yhteenvetoja asiakkaille, jakamalla tilaraportteja esihenkilöille tai hyödyntämällä analyysia muissa yhteyksissä. Kun Actions-toiminnot mukautetaan vastaamaan omaa palvelumallia, organisaatiot saavat käyttöönsä välitöntä älykkyyttä, joka pitää agenttien huomion ratkaisemisessa, kun tekoäly hoitaa analysoinnin ja tutkimisen.

Writing Assistance – paremman sisällön luomisen tukena agenteille

Writing Assistance hyödyntää Matrix42 GenAI -ratkaisua auttaakseen palveluagentteja laatimaan ammattimaista ja kontekstiin sopivaa sisältöä koko alustalla – tiketteihin liittyvistä sähköposteista ja ratkaisuteksteistä aina toteutussuunnitelmiin ja testidokumentaatioon asti. Keskeisiä hyötyjä ovat:

• Yhtenäinen ja ammattimainen viestintä kaikissa sisältötyypeissä ja kanavissa.
• Nopeampi sisällöntuotanto, kun kontekstiin räätälöidyt alustavat luonnokset luodaan automaattisesti.
• Personoidut, kontekstiin sopivat tulokset, jotka mukautuvat käyttäjän pyyntöihin, tiketin tietoihin ja aiempaan vuorovaikutukseen.
• Sisäänrakennettu laadunvarmistus, joka korjaa kieliopin, tyylin ja sävyn.

Writing Assistance -toimintoa käyttämällä agentit voivat keskittyä ongelmanratkaisuun ja päätöksentekoon, kun tekoäly hoitaa luonnostelun ja hiomisen – tämä parantaa sekä tuottavuutta että sisällön laatua koko alustalla.

Yhteenveto

Matrix42 local GenAI integroituu saumattomasti AI Knowledge (RAG) -, AI Actions- ja AI Email Assist -toimintoihin, ja se tarjoaa:

• Turvallisen ja yksityisen tekoälypohjaisen pääsyn tietoon.
• Automatisoidut IT-työnkulut agenttien tueksi.
• Parannetut viestintätyökalut nopeampiin ja ammattimaisempiin sähköpostivastauksiin.

Täydellisen tietosuvereniteetin ja paikallisen käyttöönoton ansiosta organisaatiot voivat hyödyntää tekoälyn voimaa tinkimättä turvallisuudesta tai vaatimustenmukaisuudesta, mikä tekee Matrix42 GenAI -ratkaisusta luotettavan tekoälyratkaisun ITSM-toimintoihin.

Keskeiset hyödyt

• Optimoitu ITSM-käyttöön – malli on hienosäädetty erityisesti service desk -sovelluksia varten.
• Monikielisyys – englanti, suomi, ruotsi, saksa.
• RAG-tuki (tuetuissa tuotteissa) – kykenee integroitumaan tietopankkeihin, verkkosivustoihin ja dokumenttivarastoihin.
• Skaalautuvuus – toimii PUNA-päättelypalvelimella ja käsittelee useita tulostekstejä sujuvalla nopeudella myös kustannustehokkailla konesalin GPU:illa.
• Tietoturva ja tietosuoja – suunniteltu täyttämään sääntelyvaatimukset (esim. GDPR) ja tarjoamaan vankka tietosuoja.

Tekniset tiedot

• Perusmalli: PHI-4 14b (Microsoftin avoin malli)
• Kvantisointi: Q6_K, Q8 (pienentää muistivaatimusta puoleen säilyttäen 95–98 %:n tarkkuuden).
• Kontekstin pituus: 16k tokenia
• Päättelymoottori: llama.cpp
• Laitteistovaatimukset:
  • Vähimmäisvaatimus: NVIDIA CUDA -GPU (Ampere tai uudempi), jossa vähintään 20 Gt VRAM-muistia (NVIDIA L4, RTX4000 ADA)
  • Suositus (kohtalainen liikenne, Knowledge Discovery /RAG/): NVIDIA L40S (48Gt VRAM), NVIDIA RTX 6000 ADA
• Koulutusdatan lähteet:
  • Julkiset tietoaineistot (asianmukaisesti lisensoituna).
  • Synteettinen data, joka on tuotettu laadukkailla kaupallisilla malleilla (vain lisenssin sallimilla malleilla).
  • Manuaalisesti koostetut ja validoidut koulutusaineistot.

Tietosuoja

• Paikallinen isännöinti saatavilla – malli voidaan ottaa käyttöön paikan päällä, mikä varmistaa täyden hallinnan arkaluonteisesta tiedosta.
• Voimme tarjota mallin myös omasta infrastruktuuristamme, ja käytettävissä on kaksi vaihtoehtoa:
  • Equinix (Suomi)
  • Hetzner (Saksa)
• Tietojen naamiointi ja anonymisointi – henkilötietoja (PII) ei tallenneta käsittelyn aikana.
• Pääsynhallintamekanismit:
  • Palomuuripohjaiset suojaukset rajoittavat luvatonta pääsyä.
  • Ei ulkoisia API-kutsuja – toisin kuin pilvipohjaiset LLM:t, tämä malli ei lähetä kyselyitä ulkoisiin OpenAI-rajapintoihin, mikä varmistaa tietojen sijainnin hallinnan ja tietosuojan vaatimustenmukaisuuden.
• Asiakkaan täysi datanomistajuus – asiakas säilyttää yksinomaisen omistusoikeuden tietoihin koko prosessin ajan.
• Dataa ei käytetä mallin kouluttamiseen – asiakkaan dataa ei koskaan käytetä mallin kouluttamiseen tai hienosäätöön.
• Data käytetään vain vastausten tuottamiseen – mallille annettua tietoa käytetään ainoastaan vastausten luomiseen, eikä sitä tallenneta tai käsitellä edelleen.
• Arkaluonteista tietoa tai todennustietoja ei siirretä – malli ei käsittele tai siirrä todennustunnuksia tai arkaluonteista tietoa, mikä varmistaa turvallisuuden.
• Ei tietojen säilyttämistä – malli ei tallenna käyttäjän syötteitä tai tuotettuja vastauksia.
• Palvelulokit tallennetaan paikallisesti - vain ylläpitäjillä on niihin pääsy, eikä niitä jaeta tai käsitellä.
• Kaikki lokit voidaan tarvittaessa poistaa käytöstä - mutta tämä heikentää virheenkorjausmahdollisuuksia
• Asiakkaan hallinnoima tietojen isännöinti – lepotilassa oleva data (tietopankki, lokit, asetukset, CAI-alusta) isännöidään palvelimilla, joilla asiakkaan ITMS toimii:
  
  • Equinix (Suomi)
  • Noris (Saksa)
  • Paikan päällä / yksityinen pilvi

Näiden mekanismien ansiosta Matrix42 GenAI tarjoaa täyden tietosuojan, sääntelyn noudattamisen ja turvallisen käyttöönoton yritysten IT-ympäristöissä.

Vaatimustenmukaisuus

• GDPR-yhteensopiva – noudattaa täysin EU:n yleistä tietosuoja-asetusta, ja paikan päällä toteutettavat vaihtoehdot varmistavat tietosuvereniteetin.
• ITSM-integraatioturvallisuus – varmistaa turvallisen todennuksen ja API-tunnisteiden hallinnan integroitaessa Matrix42- ja kolmannen osapuolen ITSM-työkaluihin.
• Turvallinen mallin koulutus – kaikki koulutusaineistot on hankittu asianmukaisin lisenssein, ja ne on tarkistettu manuaalisesti vaatimustenmukaisuuden varmistamiseksi.
• Tarkastettavat lokit ja seuranta – lokit eivät tallenna arkaluonteisia käyttäjäsyötteitä, mutta ne mahdollistavat tietoturvatarkastukset.

Matrix42 GenAI ja EU:n tekoälysäädöksen (AI Act) noudattaminen

Matrix42 GenAI on suunniteltu ja kehitetty EU:n tekoälysäädöksen (AI Act) sääntelyperiaatteiden mukaisesti, mikä varmistaa luotettavan, läpinäkyvän ja turvallisen tekoälyn käytön yritysympäristöissä, erityisesti IT-palveluhallinnassa (ITSM). Keskeisiä vaatimustenmukaisuustoimenpiteitä ovat:

1. Riskiluokitus ja tekoälyn läpinäkyvyys
   1. Matrix42 GenAI kuuluu ”rajoitetun riskin” luokkaan, mikä tarkoittaa, ettei se aiheuta merkittäviä turvallisuus- tai perusoikeushuolia.
   2. Kyseessä on liiketoimintaa tukeva tekoäly, joka ensisijaisesti avustaa IT-palvelutoimintoja ilman itsenäistä päätöksentekoa, joka vaikuttaisi yksilöiden oikeudellisiin oikeuksiin tai vapauksiin.
2. Ihmisen valvonta ja selitettävyys
   1. Malli ei toimi itsenäisesti kriittisessä päätöksenteossa. Ihmiset, kuten IT-palveluagentit, pysyvät tekoälyavusteisten tulosten hallinnassa.
   2. Ihmiset voivat tarkastaa, katselmoida ja muokata vastauksia ennen niiden käyttöönottoa kriittisissä työnkuluissa.
3. Vinoumat ja oikeudenmukaisuus
   1. Malli on koulutettu huolellisesti koostetuilla aineistoilla, mikä varmistaa, ettei se levitä epäoikeudenmukaisia vinoumia vastauksissaan.
   2. Jatkuva seurantamekanismi antaa asiakkaille mahdollisuuden validoida tuloksia ja hienosäätää vastauksia sisäisten vaatimustenmukaisuuskäytäntöjen mukaisesti.
4. Tietosuoja ja yksityisyys (GDPR-yhdenmukaisuus)
   1. Matrix42 GenAI noudattaa tiukkoja tietosuojakäytäntöjä, jotka varmistavat, että:
      1. Asiakasdataa ei tallenneta eikä käytetä mallin uudelleenkouluttamiseen.
      2. Arkaluonteista tietoa ei säilytetä eikä siirretä määritetyn asiakasympäristön ulkopuolelle.
      3. Se tukee paikan päällä ja yksityisessä pilvessä tapahtuvaa käyttöönottoa, mikä mahdollistaa täyden hallinnan tietojen sijainnista.
5. Tietoturva ja vakaus
   1. Matrix42 GenAI kestää haitallisia manipulaatioyrityksiä, kuten prompti-injektiohyökkäyksiä, mikä varmistaa luotettavat ja turvalliset tekoälyn tuottamat vastaukset.
6. Tarkastettavuus ja vaatimustenmukaisuusraportointi
   1. Järjestelmä tarjoaa lokituksen ja seurannan organisaatioille, jotka tarvitsevat tarkastuspolkuja tekoälyn hallintakehysten noudattamisen osoittamiseksi.
   2. Pyynnöstä kaikki lokit voidaan poistaa käytöstä, mikä on linjassa tiukkojen sisäänrakennetun tietosuojan periaatteiden kanssa.