Mikä on GenAI ?

Generatiivinen tekoäly ( GenAI ) viittaa tekoälymallien luokkaan, jotka kykenevät luomaan uutta sisältöä laajoista tietojoukoista opittujen mallien perusteella. Toisin kuin perinteinen tekoäly, joka ensisijaisesti luokittelee tai ennustaa tuloksia olemassa olevan datan perusteella, generatiivinen tekoäly voi luoda tekstiä, kuvia, koodia ja muita sisällön muotoja dynaamisesti.

Nämä mallit, jotka tyypillisesti perustuvat laajoihin kielimalleihin (LLM), kuten Mistraliin, GPT:hen tai LLaMA:han, käsittelevät syöttödataa, ymmärtävät kontekstia ja tuottavat ihmisen kaltaisia vastauksia. Generatiivisen tekoälyn ydinmekanismiin kuuluvat syväoppimisen arkkitehtuurit, erityisesti transformerit, jotka mahdollistavat edistyneen luonnollisen kielen ymmärtämisen ja sisällön luomisen.

Matrix42 Local GenAI hyödyntäminen M42 Core ja Pro alustoilla

Matrix42 paikallinen GenAI on turvallinen ja täysin itsenäinen tekoälymalli, joka on suunniteltu parantamaan IT-palveluiden hallinnan (ITSM) toimintoja. Integroimalla keskeiset yrityksen tekoälytyökalut se mahdollistaa tiedon toimittamisen, automatisoinnin ja agenttien avun varmistaen samalla tietosuojan ja vaatimustenmukaisuuden.

Tekoälyn tiedonhankinta (RAG) – Tiedon toimittaminen loppukäyttäjille

Matrix42 GenAI voi tehostaa tekoälyyn perustuvaa tiedonhakua hyödyntämällä haun ja lisätyn generoinnin (RAG) menetelmää. Tämä mahdollistaa loppukäyttäjille tarkkojen ja kontekstitietoisten vastausten saamisen organisaation sisäisen tietämyksen perusteella, kuten:

• IT-palvelun dokumentaatio.
• Tietokannat.
• Yrityksen käytännöt.
• Sisäiset tietovarastot (wikit, PDF-tiedostot, Confluence ja strukturoidut tietolähteet).

Malli varmistaa, että vain valtuutettua ja olennaista tietoa noudetaan ja jaetaan, mikä parantaa itsepalveluominaisuuksia ja vähentää IT-tukitiimien työmäärää.

Tekoälytoiminnot – Automaattinen sisällöntuotanto

Tekoälytoimintojen avulla Matrix42 GenAI voi automatisoida IT-palveluagenttien toistuvia ja manuaalisia tehtäviä. Tähän sisältyy:

• Automatisoitu uid .
• Työnkulkujen käynnistäminen tekoälyn luomien suositusten perusteella.
• Jäsenneltyjen vastausten ja yhteenvetojen luominen IT-ongelmiin.

Upottamalla tekoälytoimintoja palvelunhallintaprosesseihin organisaatiot voivat parantaa tehokkuutta, lyhentää ratkaisuaikaa ja parantaa käyttäjien tyytyväisyyttä.

Tekoälyn sähköpostiapu – Sähköpostien kirjoittamista tukevat Agent

Tekoälyinen sähköpostiapu hyödyntää Matrix42 GenAI ta auttaakseen asiakaspalvelijoita laatimaan nopeasti ammattimaisia ja kontekstiin sopivia sähköposteja tukipyyntöjen tietojen ja aiempien vastausten perusteella. Keskeisiä etuja ovat:

• Johdonmukainen ja ammattimainen sähköpostiviestintä.
• Nopeammat vasteajat automaattisesti luotujen vastausten ansiosta.
• Personoidut vastaukset käyttäjien pyyntöjen ja aiempien vuorovaikutusten perusteella.
• Kielioppi- ja tyylikorjaukset korkealaatuisen viestinnän varmistamiseksi.

Käyttämällä tekoälyn sähköpostitukea asiakaspalvelijat voivat keskittyä ongelmanratkaisuun, kun taas tekoäly parantaa tuottavuutta ja ylläpitää viestinnän laatua.

Johtopäätös

Matrix42 paikallinen GenAI integroituu saumattomasti AI Knowledgeen (RAG), AI Actionsiin ja AI Email Assistiin tarjoten:

• Turvallinen ja yksityinen tekoälypohjainen tiedonsaanti.
• Automatisoidut IT-työnkulut asiakaspalvelijoiden tukemiseksi.
• Parannetut viestintätyökalut nopeampia ja ammattimaisempia sähköpostivastauksia varten.

Täyden datasuvereniteetin ja paikallisen käyttöönoton ansiosta organisaatiot voivat hyödyntää tekoälyn tehoa vaarantamatta turvallisuutta tai vaatimustenmukaisuutta, mikä tekee Matrix42 GenAI sta luotettavan tekoälyratkaisun ITSM-toimintoihin.

Keskeiset edut

• Optimoitu ITSM:lle – Malli on erityisesti hienosäädetty service desk .
• Monikielinen tuki – englanti, suomi, ruotsi, saksa.
• RAG-tuki (tuettujen tuotteiden kanssa) – Pystyy integroitumaan tietokantoihin, verkkosivustoihin ja asiakirjavarastoihin.
• Skaalautuvuus – toimii PUNA-päättelypalvelimella ja käsittelee useita tulostekstejä miellyttävällä nopeudella jopa kustannustehokkailla datakeskuksen näytönohjaimilla.
• Tietoturva ja tietosuoja – Suunniteltu noudattamaan määräyksiä (esim. GDPR) ja tarjoamaan vankkaa tietosuojaa.

Tekniset tiedot

• Perusmalli: Mistral Nemo 12B-Instruct.
• Hienosäätömenetelmä: LoRA (Low-Rank Adaptation).
• Kvantisointi: Q6_K, Q8 (muistivaatimusten puolittuminen säilyttäen samalla 95–98 %:n tarkkuuden).
• Kontekstin pituus: Tukee jopa 128 000 tokenia, mutta 16 000 tokenia on optimaalinen suorituskyvyn kannalta.
• Päättelymoottori: PUNA ( Matrix42 oma päättelypalvelin), yhteensopiva GGUF-formaatin (llama.cpp) kanssa.
• Laitteistovaatimukset:
  
  • Minimi: Nvidia CUDA -näytönohjain ja 16 Gt:n näyttömuisti (optimaalisen suorituskyvyn saavuttamiseksi suositellaan 20 Gt).
  • Käyttöönotto datakeskuksessa: Tukee neljää samanaikaista pyyntöä yli 15 tokenia sekunnissa.
• Harjoitustietolähteet:
  • Julkiset tietoaineistot (asianmukaisesti lisensoituina).
  • Korkealaatuisten kaupallisten mallien avulla luotu synteettinen data (vain lisenssin sallimat mallit).
  • Manuaalisesti kuratoidut ja validoidut harjoitusaineistot.

Tietosuoja

• Paikallinen hosting saatavilla – Malli voidaan ottaa käyttöön paikallisesti, mikä varmistaa täyden hallinnan arkaluontoisiin tietoihin.
• Voimme myös tarjota mallin infrastruktuuristamme, ja käytettävissä on kaksi vaihtoehtoa:
  • Equinix (Suomi)
  • Hetzner (Saksa)
• Tietojen peittäminen ja anonymisointi – Henkilökohtaisesti tunnistettavia tietoja (PII) ei tallenneta käsittelyn aikana.
• Pääsyoikeuksien hallintamekanismit:
  • Palomuuripohjaiset suojaukset rajoittavat luvatonta pääsyä.
  • Ei vaadi ulkoisia API kutsuja – Toisin kuin pilvipohjaiset LLM-mallit, tämä malli ei lähetä kyselyitä ulkoisille OpenAI API -rajapinnoille, mikä varmistaa tietojen säilytyspaikan ja yksityisyyden suojan.
• Asiakkaan täysi datan omistusoikeus – Asiakkaalla säilyy datan yksinomainen omistusoikeus koko prosessin ajan.
• Mallin koulutukseen ei käytetä tietoja – Asiakastietoja ei koskaan käytetä mallin koulutukseen tai hienosäätöön.
• Vain vastauksiin käytettyjä tietoja – Mallille annettuja tietoja käytetään vain vastausten luomiseen, eikä niitä tallenneta tai käsitellä edelleen.
• Arkaluonteisia tietoja tai todennustietoja ei lähetetä – Malli ei käsittele tai lähetä todennustietoja tai arkaluonteisia tietoja, mikä varmistaa turvallisuuden.
• Ei tietojen säilytystä – Malli ei tallenna käyttäjän syötteitä tai luotuja vastauksia.
• Palvelulokit tallennetaan paikallisesti – vain järjestelmänvalvojilla on pääsy niihin, eikä niitä jaeta tai käsitellä.
• Kaikki lokit on mahdollista poistaa käytöstä, mutta tämä heikentää virheenkorjausominaisuuksia.
• Asiakkaan hallinnoima datan ylläpito – Tallennustilassa oleva data (tietokanta, lokit, asetukset, CAI-alusta) isännöidään palvelimilla, joilla asiakkaan ITMS toimii:
  
  • Equinix (Suomi)
  • Noris (Saksa)
  • Paikallinen / yksityinen pilvi

Nämä mekanismit varmistavat, että Matrix42 GenAI tarjoaa täyden tietosuojan, määräystenmukaisuuden ja turvallisen käyttöönoton yritysten IT-ympäristöissä.

Vaatimustenmukaisuus

• GDPR-yhteensopiva – Noudattaa täysin EU:n yleistä Pro -asetusta ja sisältää paikallisia vaihtoehtoja tietojen suvereenisuuden varmistamiseksi.
• ITSM-integraation tietoturva – Varmistaa turvallisen todennuksen ja API tunnusten hallinnan integrointia varten Matrix42 ja kolmannen osapuolen ITSM-työkalujen kanssa.
• Turvallinen mallikoulutus – Kaikki koulutusaineistot hankittiin asianmukaisten lisenssien alaisuudessa ja niiden vaatimustenmukaisuus tarkastettiin manuaalisesti.
• Auditoitavat lokit ja valvonta – Lokit eivät tallenna arkaluonteisia käyttäjätietoja, mutta mahdollistavat tietoturvatarkastusten tekemisen.

Matrix42 GenAI ja EU AI Act -lain mukainen

Matrix42 GenAI on suunniteltu ja kehitetty EU:n tekoälylain sääntelyperiaatteiden mukaisesti varmistaen tekoälyn luotettavan, läpinäkyvän ja turvallisen käytön yritysympäristöissä, erityisesti IT-palveluiden hallinnassa (ITSM). Keskeisiä vaatimustenmukaisuustoimenpiteitä ovat:

1. Riskiluokitus ja tekoälyn läpinäkyvyys
   1. Matrix42 GenAI kuuluu "rajoitetun riskin" luokkaan, mikä tarkoittaa, että se ei aiheuta merkittäviä turvallisuus- tai perusoikeusongelmia.
   2. Se on liiketoimintaa tukeva tekoäly, joka ensisijaisesti avustaa IT-palvelutoimintoja ilman itsenäistä päätöksentekoa, joka vaikuttaisi yksilöiden laillisiin oikeuksiin tai vapauksiin.
2. Ihmisen valvonta ja selitettävyys
   1. Malli ei toimi itsenäisesti kriittisessä päätöksenteossa. Ihmisoperaattorit, kuten IT-palveluagentit, hallitsevat edelleen tekoälyn avustamia tuotoksia.
   2. Ihmisagentit voivat auditoida, tarkastella ja muokata vastauksia ennen niiden käyttöönottoa kriittisissä työnkuluissa.
3. Puolueellisuus ja oikeudenmukaisuus
   1. Malli on koulutettu huolellisesti kuratoitujen tietojoukkojen avulla, mikä varmistaa, ettei sen vastauksissa esiinny epäreiluja vinoumia.
   2. Jatkuvan valvontamekanismin avulla asiakkaat voivat validoida tuotokset ja hienosäätää vastauksia sisäisten vaatimustenmukaisuuskäytäntöjen mukaisesti.
4. Pro ja yksityisyydensuoja (GDPR-yhteensopivuus)
   1. Matrix42 GenAI noudattaa tiukkoja tietosuojatoimenpiteitä varmistaakseen, että:
      1. Asiakastietoja ei tallenneta eikä käytetä mallin uudelleenkoulutukseen.
      2. Se ei säilytä tai siirrä arkaluonteisia tietoja nimetyn asiakasympäristön ulkopuolelle.
      3. Se tukee sekä paikallista että yksityistä pilviympäristöä, mikä mahdollistaa täyden datan sijainnin hallinnan.
5. Turvallisuus ja kestävyys
   1. Matrix42 GenAI on vastustuskykyinen vihamielisille manipuloinneille, kuten pikainjektiohyökkäyksille, mikä varmistaa tekoälyn luomat luotettavat ja turvalliset vastaukset.
6. Tarkastettavuus ja vaatimustenmukaisuusraportointi
   1. Järjestelmä tarjoaa lokitietoja ja valvontaa organisaatioille, jotka tarvitsevat lokitietoja tekoälyn hallintakehysten noudattamisen varmistamiseksi.
   2. Pyynnöstä kaikki lokit voidaan poistaa käytöstä tiukkojen sisäänrakennetun yksityisyyden suojan periaatteiden mukaisesti.