Copilot SearchLeakin haavoittuvuusketju osoittaa, kuinka mikä tahansa tekoälyavustaja voi kehittyä tuottavuusominaisuudesta uudeksi poluksi dataan, joka perii käyttäjän ulottuvuuden. Mitä turvallisuus- ja vaatimustenmukaisuusjohtajat voivat oppia?
Kesäkuussa Varonis Threat Labsin tutkijat paljastettiin kriittinen haavoittuvuusketju Microsoft 365 Copilot Enterprisessa, nimeltään ”SearchLeak”. Seuranta tapahtui CVE-2026-42824hyökkääjät voisivat käyttää haavoittuvuutta varastaakseen arkaluonteisia tietoja – kuten sähköposteja, monivaiheisen todennuksen (MFA) koodeja ja indeksoituja tiedostoja – yhdellä napsautuksella.
Microsoft korjasi SearchLeakin nopeasti ennen kuin sitä hyödynnettiin tosielämän hyökkäyksissä. Copilot-ongelma on kuitenkin osoittanut, kuinka mikä tahansa tekoälyavustaja voi kehittyä tuottavuusominaisuudesta uudeksi poluksi dataan, joka perii käyttäjän ulottuvuuden.
Mitä turvallisuus- ja vaatimustenmukaisuusjohtajat voivat oppia?
Yksi klikkaus, ei haittaohjelmia
SearchLeakin haavoittuvuus osoittaa, että verkkoon kytketty tekoälyavustaja on vain sen käyttäjän oikeuksien alaisena. Huijattuna se voi vuotaa mitä tahansa, mitä käyttäjä voi saada.
SearchLeak yhdistää suhteellisen uuden luokan tekoälyyn liittyviä haavoittuvuuksia, jotka tunnetaan nimellä parametri-haavoittuvuus.nopea injektio kaksi klassista verkkotietoturvavirhettä: HTML-injektioon liittyvä kilpailutilannevirhe ja palvelinpuolen pyyntöjen väärentäminen ongelma.
”Yksittäin jokainen haavoittuvuus saattaa vaikuttaa hallittavissa olevalta”, kirjoitti tietoturvatutkija Dolev Taler raportissa. blogiYhdistettynä ne antavat hyökkääjälle mahdollisuuden poimia sähköpostiviestejä, turvakoodeja ja muuta arkaluontoista sisältöä hiljaisesti uhrin postilaatikosta, kalenterista, SharePointista ja OneDrivesta – kaikki yhdellä napsautuksella epäilyttävän linkin kautta.”
Asiantuntijoiden mukaan SearchLeak-ongelma oli huolestuttava yksinkertaisuutensa vuoksi. ”Yksi klikkaus, ei haittaohjelmia, ei varastettuja tunnistetietoja”, kommentoi Tim Freestone, Kiteworksin strategiajohtaja. ”Copilot luki URL-osoitteessa olevan ohjeen, löysi sähköpostit tai MFA-koodit ja lähetti ne Bingille renderöidyn kuvatunnisteen kautta ennen kuin vastaus oli edes latautunut.”
Tiedonhallintariskit
SearchLeak korostaa tekoälyn aiheuttamia tiedonhallintariskejä. Monilla organisaatioilla ei vieläkään ole kattavaa käsitystä siitä, kuka voi käyttää arkaluonteisia tietoja, kuinka laajasti näitä tietoja jaetaan tai miten käyttöoikeudet yhdistyvät eri liiketoimintajärjestelmien välillä.
Ongelma ei edes ollut liian laajojen käyttöoikeuksien määrittelyssä: Copilot pääsi käsiksi vain siihen, mihin käyttäjällä oli jo käyttöoikeus, sanoo Tristan Shortland, Infinity Groupin teknologiajohtaja. ”Ongelmana on, miten tämä käyttöoikeus voidaan aktivoida ja automatisoida. Jopa tarkasti rajattuja käyttöoikeuksia voidaan hyödyntää, jos tekoälyn ympärillä olevat hallintakerrokset ovat heikkoja.”
AI saa hajanaiset käyttöoikeudet "käyttäytymään kuin yksi käyttöoikeusmalli", kertoo SpecterOpsin teknologiajohtaja Jared Atkinson IOKäyttäjällä voi olla näennäisen harmiton pääsy Outlookiin, Teamsiin, SharePointiin, GitHubiin, Salesforceen, ServiceNow'hun ja pilvialustoille erikseen. Kun tekoälyavustaja pystyy analysoimaan niitä kaikkia, yhdistelmä voi paljastaa huomattavasti enemmän kuin mikään yksittäinen sovellus yksinään.
Kun organisaatiot ottavat tekoälyn käyttöön, datanhallinta keskittyy vähemmän tiedon tallennuspaikkaan ja enemmän identiteettien ja käyttöoikeussuhteiden ymmärtämiseen, jotka mahdollistavat tiedon yhdistämisen, Atkinson sanoo.
Tekoäly poistaa "hämärän turvallisuuden", johon monet organisaatiot vahingossa luottavat, sanoo Dray Agha, Huntressin tietoturvatoimintojen vanhempi päällikkö. "Ilman tiukkaa tiedonhallintaa tekoälytyökalut tekevät työntekijöiden – tai vaarantuneiden tilien – triviaalin helpoksi löytää ja tiivistää välittömästi arkaluonteisia tietoja, jotka aiemmin olivat piilossa yritysverkkojen valtavan hälyn ja volyymin keskellä."
Kasvava hyökkäyspinta
Kun agentit kattavat useampia sovelluksia, hyökkäyspinta kasvaa tietolähteiden, toimintojen ja monimutkaisten ketjujen määrän kasvaessa. Tämän mielessä Infinity Groupin Shortland ennustaa, että tulevaisuudessa yksittäisiä "suuria" haavoittuvuuksia on vähemmän ja "enemmän monivaiheisia hyökkäyksiä tekoälyn, identiteetin ja API-rajapintojen välillä".
Nykypäivän tekoälyavustajat hakevat tietoa. Seuraavan sukupolven tekoälyagentit ”suorittavat työtä useissa liiketoimintasovelluksissa koordinoiden toimia sähköpostissa, lähdekoodivarastoissa, pilvialustoilla, tiketöintijärjestelmissä, CRM-alustoilla, identiteetintarjoajilla ja muissa yrityspalveluissa”, sanoo SpecterOpsin Atkinson.
Tämä autonomia johtaa delegoitujen valtuuksien laajempaan käyttöön, hän sanoo. ”Agentit saavat delegoituja tunnistetietoja, palveluidentiteettejä tai sovelluskohtaisia käyttöoikeuksia, joiden avulla he voivat suorittaa toimintoja, joita käyttäjä ei voisi suorittaa suoraan. Tämä luo uusia mahdollisuuksia tahattomaan datan paljastumiseen, oikeuksien eskaloitumiseen tai väärinkäyttöön, jos delegoituja käyttöoikeuksia ei hallita huolellisesti.”
Palauta hallinta
Koska tekoälyagentit aiheuttavat edelleen riskejä yrityksille, turvallisuus- ja vaatimustenmukaisuusjohtajat voivat ryhtyä muutamiin yksinkertaisiin toimiin ottaakseen hallinnan takaisin ja rajoittaakseen räjähdyksen sädettä, jos SearchLeakin kaltaisia ongelmia ilmenee.
On tärkeää huomata, että pelkkä pääsyn estäminen ei toimi. ”Kielto vain ohjaa käyttöä muille kuin yritystileille, joilla näkyvyys on vieläkin pienempi”, sanoo Kiteworksin Freestone.
Sen sijaan, että tekoälystä vetäytyisi, Infinity Groupin Shortland neuvoo käsittelemään teknologiaa "kuin korkean etuoikeuden abstraktiokerroksena".
”Käytännössä se tarkoittaa Copilotin indeksointi- ja hakumahdollisuuksien tarkkaa rajaamista: ei pelkästään käyttäjäoikeuksien, vaan myös tekoälyn hakumahdollisuuksien osalta.”
Shortland suosittelee myös arkaluonteisten tietolähteiden segmentointia. ”Älä oleta, että kaiken on oltava löydettävissä Graphin kautta.”
Samaan aikaan yritykset voivat seurata epätavallisia hakumalleja ja vähentää epäsuoraa luottamusta sisäisillä toimialueilla, hän neuvoo. ”SearchLeak toimi, koska linkki näytti aidolta. Lyhyesti sanottuna: oletetaan, että tekoälyä huijataan jossain vaiheessa, ja suunnitellaan sen mukaan.”
Tekoälyn käyttöoikeuksien hallinta
Kuten SearchLeakin ongelma osoittaa, tekoälyavustajaa ei voi tehdä huijaamattomaksi, joten tärkein hallintakeino on sen ulottuvuuden rajoittaminen. Näkyvyys on keskeinen askel.
SpecterOpsin Atkinsonin mukaan tietoturvajohtajien tulisi kartoittaa, missä tekoälyagentteja käytetään, ymmärtää, millä identiteeteillä he toimivat, ja tunnistaa kaikki heille delegoidut tunnistetiedot tai palveluidentiteetit. ”Ihmiskäyttäjät, palvelutilit, sovellusidentiteetit ja tekoälyagentit tulisi kaikki arvioida osana samaa identiteettiekosysteemiä.”
Vaikka ISO 27001 ei ole kirjoitettu tekoälylle, sen ohjausobjektit "kohdistuvat suoraan SearchLeak-hyökkäysketjuun", Kiteworksin Freestonen mukaan. Esimerkiksi Liite A.9 pääsynhallinta olisi arvioinut Copilotin ulottuvuuksia.”A.12.4 Kirjaus ja valvonta olisi tehnyt soluttautumisyrityksen näkyväksi reaaliajassa”, hän huomauttaa. ”Ja A.8.2 tietojen luokittelu olisi estänyt säännellyn sisällön ylittämästä säänneltyä rajaa.”
Standardi tarjoaa kontrollit, mutta siitä puuttuu viitekehys sille, mitä tekoälyjärjestelmät saavat alun perin tehdä, hän selittää. ISO 42001, tekoälyn hallintajärjestelmien kansainvälinen standardi, tulee voimaan.
Tämä edellyttää vaikutustenarviointeja ennen käyttöönottoa, ihmisen suorittamia valvontamekanismeja ja tekoälyyn liittyvien riskien, kuten nopean manipuloinnin ja mallin tahattoman käyttäytymisen, selkeää käsittelyä.
”SearchLeak edustaa juuri tätä uhkaluokkaa”, Freestone sanoo. ”ISO 27001 kattaa tietoturvakontrollit ja auditointitodisteet. ISO 42001 kattaa hallintopäätökset, jotka liittyvät näihin kontrolleihin. Sääntelyviranomaiset alkavat odottaa molempia.”
Laajenna tietosi
Guide: Tekoälyn hyökkäyspinnan suojaaminen
Blogi: Anthropicin toiminnan keskeyttäminen on herätys tekoälytoimittajien riskille
Blogi: Kyberriskien hallinta on hajanaista, näin korjaat sen
