“Varjotekoälystä” hallittuun käyttöön
Generatiivisen tekoälyn käyttö on lisääntynyt huomattavasti alkuvaiheen jälkeen ja Deloitten statistiikka tarjoaa tästä kattavan näkemyksen.
Heidän tutkimuksensa mukaan 77 prosenttia työntekijöistä, jotka käyttävät tekoälyä työssään, käyttävät malleja, joita työnantaja ei ole kehittänyt tai hankkinut. 52 prosenttia käyttää julkisesti saatavilla olevia ilmaisia palveluja ja 25 prosenttia maksaa itse tarvitsemistaan tekoälytyökaluista. Vain 19 prosenttia kertoo käyttävänsä yksinomaan työnantajan kehittämää tai hankkimaa tekoälyä.
Seuraukset näkyvät jo nyt nähtävissä. Ciscon 2024 Data Privacy Benchmark Study -tutkimuksessa 48 prosenttia yrityksistä raportoi tilanteista, joissa luottamuksellista dataa on ladattu julkisiin tekoälypalveluihin. 68 prosenttia on huolissaan siitä, että arkaluonteinen tieto päätyy julkisuuteen tai kilpailijoille, ja 27 prosenttia on tämän vuoksi kokonaan kieltänyt julkiset tekoälypalvelut työssä.
Data osoittaa, että kyse ei ole yksittäisistä virheistä vaan toistuvista käyttäytymismalleista. Monissa generatiivista tekoälyä hyödyntävissä organisaatioissa esiintyy korkean riskin käytäntöjä ja merkittävä osa malleille lähetetyistä kehotteista sisältää potentiaalisesti arkaluonteista tietoa. Riskimaailmaa määrittävät arjen tilanteet, joissa sisäisiä dokumentteja, lähdekoodia, asiakasdataa tai strategista materiaalia jaetaan ulkoisille palveluille vain siksi, että halutaan “kokeilla jotain”.
Yhä useampi yritys pyrkii siksi siirtämään käytön “varjotekoälystä” hallittuihin ja turvallisiin alustoihin omassa ympäristössään. Näemme vahvaa kysyntää ratkaisuille, joissa rakennetaan enterprise‑tason tekoälyä lähelle asiakkaan dataa, käyttöoikeuksien hallinnalla, lokituksella ja salauksella. Tavoitteena on, ettei arkaluonteinen tieto poistu organisaation hallinnasta julkisiin palveluihin.
Tekoäly luotettuna sisäpiiriläisenä
Perinteisesti sisäpiiririskeillä on viitattu ihmisiin, joilla on oikeutettu pääsy tietoihin ja jotka käyttävät sitä väärin, tahallaan tai tahattomasti. Generatiivisen tekoälyn myötä syntyy uudenlainen “luotettu sisäpiiriläinen”.
Tekoälyjärjestelmille annetaan usein laaja ja pitkälti automatisoitu pääsy sähköposteihin, keskusteluihin, dokumentteihin, koodivarastoihin ja liiketoimintajärjestelmiin. Pääsy voi olla laajempi kuin yhdelläkään yksittäisellä käyttäjällä, mutta ohjaavat kontrollit eivät välttämättä ole tarpeeksi kehittyneitä.
Generatiiviset mallit integroidaan suoraan yhteistyöalustoihin, kehitysympäristöihin ja asiakasrajapintaan. Tekoälyagentit eivät ainoastaan ehdota toimenpiteitä, vaan voivat myös toteuttaa niitä. Datayhteyksiä rakennetaan nopeasti liiketoimintahyödyn saavuttamiseksi, usein ennen kuin on täysi näkyvyys siihen, mitä tietoja avataan ja minne.
Tulos on se, että väärin konfiguroitu tekoälyjärjestelmä voi kerätä, tiivistää tai välittää suuria määriä arkaluonteista dataa hyvin lyhyessä ajassa. Samalla sen toiminta lokissa voi muistuttaa täysin normaalia käyttöä. Tämä siirtää turvallisuustyön painopistettä entistä enemmän identiteettiin ja sekä ihmisten että koneiden käyttöoikeuksiin, sen sijaan että keskityttäisiin vain käyttäjätunnuksiin.
Käytännössä tämä tarkoittaa, että yhä useammat organisaatiot soveltavat vähimmän oikeuden periaatetta myös tekoälyagenteille. Niille luodaan erillisiä palvelutunnuksia, rajattuja tietolähteitä ja jatkuvaa käyttöoikeuksien tarkastelua. Näemme kriittisenä sen, että tekoälykehitys ja kyberturvallisuus tuodaan yhteen jo arkkitehtuurin ja toteutuksen tasolla sen sijaan, että turvallisuus lisätään ohuena kerroksena jälkikäteen.
Tekoäly vahvistaa hyökkääjien työkalupakkia
Generatiivinen tekoäly muuttaa paitsi organisaatioiden toimintaa myös hyökkääjien työskentelytapaa. 38 prosenttia tietoturvajohtajista pitää tekoälyn vauhdittamaa kiristyshaittaohjelmaa suurimpana huolenaiheenaan. 82 prosenttia organisaatioista uskoo, että tietojenkalasteluviestit on vaikeampi tunnistaa, kun ne on generoitu tekoälyn avulla, ja 60 prosenttia raportoi jo kohdanneensa hyökkäyksiä, joissa on käytetty deepfake‑tekniikkaa.
Kyse ei enää ole huonosti kirjoitetuista massasähköposteista. Generatiivisen tekoälyn avulla hyökkääjät voivat luoda räätälöityjä viestejä vastaanottajan kielellä, jäljitellä organisaation äänensävyä ja viitata ajankohtaisiin sisäisiin hankkeisiin erityisesti silloin, kun jotain tietoa on jo vuotanut. Mitä useampi organisaatio avaa dataansa tekoälyalustoille, sitä suuremmaksi onnistuneen murron arvo kasvaa.
Tämä lisää tarvetta edistyneille havaitsemisratkaisuille, jotka ottavat huomioon tekoälyn tuottamat hyökkäyskuviot. Puolustuksen puolella koneoppimista hyödynnetään yhä useammin sähköpostiliikenteen ja kirjautumiskäyttäytymisen poikkeavuuksien tunnistamiseen.
Kasvavaa kysyntää on myös ratkaisuille, joissa generatiivinen tekoäly yhdistetään perinteiseen turvallisuusanalytiikkaan. Tavoitteena on havaita poikkeamat aiempaa nopeammin ja rakentaa automatisoituja incident response -prosesseja, joissa tekoäly auttaa tietoturvatiimejä analysoimaan lokidataa, yhdistämään tapahtumia ja ehdottamaan toimenpiteitä.
Mallien manipulointi ja datan myrkyttäminen
Kun organisaatiot siirtyvät valmiiden palveluiden kuluttajista omien mallien kouluttajiksi tai hienosäätäjiksi, riskit siirtyvät syvemmälle teknologiaan. Yksi keskeinen alue on datan myrkyttäminen, jossa koulutusdataa manipuloidaan ohjaamaan mallia ei‑toivottuun suuntaan. Tämä voi tapahtua avoimien tietolähteiden kautta tai sisäisissä järjestelmissä, joihin hyökkääjä saa vaikutusvaltaa ja pystyy ohjaamaan, mitä dataa koulutukseen päätyy.
Toinen alue liittyy kohdennettuihin kehotushyökkäyksiin ja yrityksiin vähitellen purkaa mallin sisäistä tietoa tai sääntöjä. Huolellisesti laadituilla kehotteilla ulkopuolinen voi yrittää päästä käsiksi tietoihin tai toimintatapoihin, joita ei ole koskaan tarkoitettu jaettavaksi.
Samanaikaisesti kyselyt osoittavat, että 60 prosenttia päättäjistä ja 41 prosenttia henkilöstöstä myöntää syöttävänsä tekoälytyökaluille sisäistä dataa. Tämä lisää riskiä siitä, että malleja koulutetaan aineistolla, jonka ei missään nimessä pitäisi poistua organisaation omasta ympäristöstä. 59 prosenttia ruotsalaisista IT‑turvallisuusjohtajista näkee generatiivisen tekoälyn yhtenä merkittävimmistä turvallisuusongelmista tulevina vuosina.
Riskien hallinta edellyttää, että turvallisuus seuraa koko mallin elinkaarta. Pelkän käyttöliittymän suojaamisen sijaan organisaatioiden on johdettava ja hallittava datalähteitä, luotava jäljitettävät koulutusputket, pidettävä yllä versiohallintaa ja suojattava tuotantoympäristössä olevat mallit luvattomalta käytöltä.
Kolme peruspilaria: Hallinnointimalli, data ja osaaminen
Riskien pienentämiseksi ilman kehityksen vauhdin hidastumista, on nousemassa esiin kolme pääaluetta.
Ensimmäinen on hallinnointimalli. Tarvitaan selkeät periaatteet ja käytännön ohjeet generatiivisen tekoälyn käyttöön. Tämä sisältää muun muassa määrittelyn siitä, millaista dataa ei koskaan saa viedä organisaation ulkopuolelle, mitä hyväksyttyjä palveluja on käytössä ja miten seurantaa ja incident management -toimintaa tekoälyn ympärillä toteutetaan.
Toinen on datalähteet. Ilman ajantasaista datakatalogia ja toimivaa luokittelua on vaikea tietää, mitä tietoja voidaan turvallisesti avata tekoälyjärjestelmille. Työ ulottuu tiedon sijainnin kartoittamisesta luokittelumalleihin, salaukseen ja segmentointiin pilvi- ja hybridiympäristöissä.
Kolmas alue on osaaminen ja kulttuuri. Generatiivinen tekoäly on helppo ottaa käyttöön, joten sekä hyvät että huonot käytännöt leviävät nopeasti. Siksi turvallisuuskoulutuksen on liityttävä suoraan työntekijöiden arkeen, konkreettisine esimerkkeineen sekä turvallisista että riskialttiista tavoista hyödyntää tekoälyä.
Kohti hallitumpaa tekoälyarkea
Nykyiset luvut piirtävät riskinäkymän, jossa korkean riskin käyttäytyminen on yleistä, käytännön ohjeet ovat usein puutteellisia ja datan hallinta on riittämätöntä. Samaan aikaan olemme murroskohdassa, jossa yhä useampi organisaatio siirtyy kokeiluista ja irrallisista hankkeista kohti rakenteellisia investointeja turvallisiin alustoihin, parempaan datanhallintaan ja koko tekoälyn elinkaaren kattavaan turvallisuuteen.
Tässä työssä teknologiakumppaneilla, joilla on kokemusta sekä vaativasta tekoälykehityksestä että turvallisuuskriittisistä ympäristöistä, on keskeinen rooli. Yhdistämällä arkkitehtuurin, datanhallinnan, sovelluskehityksen ja kyberturvallisuuden osaamisen HiQ:n kaltaiset kumppanit auttavat organisaatioita siirtymään ad hoc -käytöstä kohti hallittua tekoälyarkea. Tavoitteena on, että tuottavuus ja innovaatio voivat kasvaa ilman, että turvallisuudesta tingitään.
Oletko kiinnostunut siitä, miten organisaatiosi voi ottaa tekoälyn käyttöön turvallisesti ja kestävästi? Ota yhteyttä, niin keskustellaan.
