Mitä on tekoälyn riskienhallinta?
Tekoälyriskienhallinta on jäsennelty, toistettava prosessi, jota organisaatio käyttää tekoälyjärjestelmien kehittämisestä, tarjoamisesta tai käytöstä aiheutuvien riskien tunnistamiseen, arviointiin, käsittelyyn ja seurantaan. Se kattaa tekoälyjärjestelmän koko elinkaaren ongelmanmäärittelystä ja tiedonhankinnasta mallin suunnitteluun, validointiin, käyttöönottoon ja lopulta käytöstä poistamiseen.
Toisin kuin perinteinen tietoturvariski, joka keskittyy ensisijaisesti tiedon luottamuksellisuuteen, eheyteen ja saatavuuteen, tekoälyriskien hallinnassa on otettava huomioon laajempi joukko huolenaiheita. Malliharha, selittämättömyyden puute, datan ajautuminen, tulosteiden väärinkäyttö, yhteiskunnallinen vaikutus ja kolmansien osapuolten perustuvien mallien käyttäytyminen kuuluvat kaikki suoraan riskienhallinnan piiriin. Siksi ISO 42001 edellyttää erillistä tekoälyriskien arviointiprosessia sen sijaan, että tekoälyriski laitettaisiin vain olemassa olevaan tietoturvarekisteriin.
Käytännössä tekoälyriskienhallinta vastaa neljään kysymykseen jokaisessa tekoälyn käyttötapauksessa liiketoiminnassa:
- Mikä tässä tekoälyjärjestelmässä voisi mennä pieleen, kenelle ja kuinka pahasti?
- Kuinka todennäköinen kukin näistä tuloksista on ottaen huomioon jo olemassa olevat kontrollit?
- Mitä aiomme tehdä niille riskeille, jotka ylittävät sietokykymme?
- Mistä tiedämme käyttöönoton jälkeen, onko arviointimme edelleen pätevä?
Hyvin tehtynä se antaa hallitukselle Tekoälyn hallintokomiteaja suunnittelutiimeillä yhteinen näkemys siitä, mitkä tekoälyhankkeet ovat turvallisia jatkaa, mitkä tarvitsevat lisävalvontaa ja mitkä tulisi keskeyttää tai muuttaa niiden laajuutta.
Miten ISO 42001 käsittelee tekoälyyn liittyvää riskiä (kohta 6.1.2 vs. kohta 6.1.4)?
ISO 42001 -standardi erottaa tekoälyriskien hallinnan kahteen toisiinsa liittyvään mutta erilliseen toimintoon, ja niiden sekoittaminen on yksi yleisimmistä käyttöönottovirheistä.
Lauseke 6.1.2 — Tekoälyn riskinarviointi. Tämä on perinteinen riskinarviointi, joka keskittyy itse organisaatioon. Tunnistat tekoälyyn liittyvät riskit, analysoit niiden todennäköisyyden ja seuraukset organisaatiosi riskikriteerejä vasten ja päätät, miten niitä käsitellään. Tämä on prosessi, jolla tekoälyriskirekisteri täytetään.
Lauseke 6.1.4 — Tekoälyjärjestelmän vaikutustenarviointi. Tämä on ulospäin suuntautuva linssi. Se arvioi tekoälyjärjestelmän mahdollista vaikutusta yksilöihin, yksilöryhmiin ja yhteiskuntaan – ja kattaa oikeudenmukaisuuden, turvallisuuden, ihmisen suorittaman valvonnan ja perusoikeudet. Liite A.5 tarjoaa ohjeet tämän toteuttamiseksi. Yksityiskohtaiset ohjeet löytyvät omasta… Tekoälyvaikutusten arvioinnit sivu.
Molemmat ovat normatiivisia. Molemmat on dokumentoitava. Molemmat vaikuttavat omaan ymmärrykseesi. Ilmoitus soveltuvuudesta ja sinun AI-politiikkaMutta ne vastaavat eri kysymyksiin, niillä on erilaiset panokset ja tyypillisesti niihin osallistuu eri sidosryhmiä. Niiden toteuttaminen yhtenä kokonaisuutena usein unohtaa yhteiskunnallisen vaikuttavuuden näkökulman, mikä on juuri sitä, mitä tilintarkastajat ja sääntelyviranomaiset etsivät.
Molempien toimintojen normatiivinen ohjeistus on osa Liitteen B ohjeetLiite C tarjoaa informatiivisia ohjeita tekoälyyn liittyvistä riskilähteistä, mikä on hyödyllinen lähtökohta rekisteriä täytettäessä.
Miten se liittyy tietoturvariskiin (ISO 27005)?
Tekoälyriskienhallinta ei korvaa tietoturvariskienhallintaa. Monet tekoälyjärjestelmät tallentavat, käsittelevät tai välittävät henkilötietoja ja sijaitsevat samassa infrastruktuurissa kuin muut säännellyt työkuormat. ISO 27005 -standardi on edelleen oikea viite tietoturvariskiprosessille. Käytännön malli on:
- Tekoälyjärjestelmään liittyvät tietoturvariskit (luottamuksellisuus, eheys, koulutusdatan saatavuus, malliartefaktit, API:t) löytyvät ISO 27001 -riskirekisteristä.
- Tekoälyyn liittyvät erityisriskit (vinouma, selitettävyys, ajautuminen, tahaton käyttö, yhteiskunnallinen haitta) sisältyvät tekoälyriskirekisteriin kohdan 6.1.2 mukaisesti.
- Ristiviittaukset yhdistävät nämä kaksi, joten yhtä riskitapahtumaa voidaan seurata molemmissa linsseissä ilman päällekkäisyyksiä
Tekoälyn hallinnon aukko Tietoturvan ja tekoälyn hallinnan välinen yhteys on juuri se, mitä ISO 42001 -standardin kohdan 6.1.2 on tarkoitus sulkea.
Mihin NIST AI RMF sopii?
NIST AI Riskienhallintakehys on vapaaehtoinen yhdysvaltalainen kehys, joka on organisoitu neljän toiminnon ympärille: Hallinta, Kartoitus, Mittaaminen ja Hallinta. Se täydentää ISO 42001 -standardia sen sijaan, että kilpailisi sen kanssa. Organisaatiot, jotka jo käyttävät NIST AI RMF:ää, voivat yhdistää sen toiminnot suoraan ISO 42001 -lausekkeisiin (Hallinta on yhdenmukainen kohtien 4 ja 5 kanssa, Yhdistä kohdan 6.1 kanssa, Mittaa kohta 9 kanssa, Hallinta kohtien 8 ja 10 kanssa). Jos rakennat kansainväliselle yleisölle, ISO 42001 tarjoaa sinulle sertifioitavan hallintajärjestelmän. NIST AI RMF tarjoaa sinulle laajalti tunnustetun sanaston ja hyödyllisiä käsikirjoja taustalla oleviin toimintoihin.
Kaikki mitä tarvitset ISO 42001:een
Strukturoitu sisältö, kartoitetut riskit ja sisäänrakennetut työnkulut auttavat sinua hallitsemaan tekoälyä vastuullisesti ja luottavaisesti.
Mitkä ovat tekoälyriskien pääluokat?
Hyvä tekoälyriskien luokittelu estää kokonaisten riskiluokkien ohittamisen. ISO 42001 -standardin liite C tarjoaa informatiivisen luettelon tekoälyyn liittyvistä riskilähteistä, joita useimmat organisaatiot mukauttavat omaan kontekstiinsa. Käytännössä kahdeksan luokkaa kattaa valtaosan tekoälyriskeistä, ja useimmat rekisterisi merkinnät vastaavat yhtä tai useampaa niistä.
| Luokka | esimerkki | ISO 42001 -standardin mukainen(t) valvonta(t) | Tyypillinen hoito |
|---|---|---|---|
| Bias ja oikeudenmukaisuus | Luottoluokitusmalli aliarvioi järjestelmällisesti suojatun ryhmän | A.6.2.2, A.6.2.4, A.7.4 | Lievennä riskiä tasapainotetun harjoitusdatan, reiluustestauksen ja ihmisen suorittaman tarkastuksen avulla |
| Selitettävyys ja avoimuus | Lääketieteellinen triage-malli ei pysty perustelemaan suosituksiaan lääkäreille | A.6.2.4, A.8.2, A.8.3 | Lievennä tulkittavien mallien, dokumentaation ja mallikorttien avulla |
| Turvallisuus | Nopea injektiohyökkäys vuotaa luottamuksellisia tietoja LLM:ltä | A.6.2.3, A.7.3, A.8.4 | Lievennä riskejä syötteen validoinnin, suojakaiteiden ja uhkamallinnuksen avulla |
| yksityisyys | Harjoitteludata sisältää henkilötietoja, joita käytetään ilman laillista perustetta | A.7.2, A.7.4, A.8.2 | Lievennä riskiä minimoinnin, anonymisoinnin ja tietosuojavaikutusten arviointien yhdenmukaistamisen avulla |
| Turvallisuus | Autonominen järjestelmä aiheuttaa fyysistä vahinkoa odottamattomalla käyttäytymisellä | A.6.2.4, A.9.3, A.9.4 | Lievennä validoinnin, vaiheittaisen käyttöönoton, kill switch -toimintojen ja ihmisen valvonnan avulla |
| yhteiskunnallinen | Sisällön moderointimalli vahvistaa väärää tietoa tai tukahduttaa oikeutettua puhetta | A.5.2, A.5.3, A.5.4 | Lievennä vaikutustenarvioinnin, sidosryhmien osallistamisen ja jatkuvan tarkastelun avulla |
| Toiminta- | Mallin drift heikentää ennusteiden tarkkuutta kuuden kuukauden tuotannon jälkeen | A.6.2.6, A.6.2.7, A.6.2.8 | Lievennä seurannan, uudelleenkoulutuksen laukaisevien tekijöiden ja suorituskykykynnysten avulla |
| Toimitusketju | Perusmallin tarjoaja muuttaa toimintaansa ilman varoitusta, mikä rikkoo jatkokäyttötapauksen | A.10.2, A.10.3, A.10.4 | Lievennä riskejä toimittajien due diligence -menettelyillä, sopimuksilla ja varatoimittajilla |
Useimmat organisaatiot omaksuvat tämän taksonomian tekoälyriskirekisterinsä selkärangaksi ja lisäävät sitten toimialakohtaisia luokkia (esimerkiksi rahoituspalvelut lisäävät malliriskienhallinnan SR 11-7:n mukaisesti, terveydenhuolto lisää kliinisen turvallisuuden). Keskeistä on, että jokainen tekoälyn käyttötapaus seulotaan kaikkia luokkia vasten, edes lyhyesti, jotta riskejä ei jää vahingossa huomaamatta.
Miten tekoälyyn liittyvä riskinarviointi tehdään?
Kohdan 6.1.2 mukainen arviointiprosessi noudattaa ISO-hallintajärjestelmille tuttua suunnittele-tee-tarkista-toimi -rytmiä, mutta tekoälykohtaisia syötteitä käytetään jokaisessa vaiheessa. Käytännöllinen ja toistettava menetelmä koostuu kuudesta vaiheesta.
Vaihe 1: Määrittele laajuus ja riskikriteerit
Ennen kuin arvioit mitään, määrittele, mikä organisaatiossasi lasketaan tekoälyjärjestelmäksi (tämän pitäisi olla jo organisaatiossasi), AI-hallintajärjestelmä (AIMS) laajuuslausunto) ja mitä riskikriteerejä käytät. Riskikriteereihin kuuluvat todennäköisyys- ja seurausasteikot, riskin hyväksymiskynnys ja seurausten kategoriat, joista välität (taloudelliset, operatiiviset, sääntelyyn liittyvät, maineeseen liittyvät, turvallisuus- ja yhteiskunnalliset).
Vaihe 2: Tunnista tekoälyn käyttötapaukset ja resurssit
Inventoi jokainen tutkimukseen sisältyvä tekoälyjärjestelmä. Kirjaa kunkin osalta ylös käyttötarkoitus, datasyötteet, mallityyppi (omistusoikeudellinen, hienosäädetty, kolmannen osapuolen perusmalli), käyttäjät, asianomaiset osapuolet, käyttöönottoympäristö ja kriittisyys. Tämä inventaario on prosessin loppuosan perusta.
Vaihe 3: Tunnista riskit taksonomian avulla
Käy jokainen tekoälyjärjestelmä läpi yllä olevat kahdeksan riskikategoriaa. Käytä liitteen C mukaisia riskilähteitä, uhkamallinnustekniikoita ja strukturoitua ideointia monialaisen ryhmän kanssa (tietojenkäsittelytiede, suunnittelu, tietoturva, lakiasiat, tuote ja tarvittaessa tulostetta käyttävä liiketoimintayksikkö). Kirjaa jokainen riski yksittäisenä tapahtumana, jolla on syy ja seuraus, ei yleisenä otsikkona.
Vaihe 4: Analysoi todennäköisyyttä ja seurauksia
Arvioi jokainen riski kriteerejäsi vasten. Todennäköisyyden tulisi ottaa huomioon nykyinen valvontaympäristö, ei hallitsematon tila. Seurauksen tulisi ottaa huomioon kaikki asianosaiset osapuolet, ei pelkästään organisaatio – tässä kohtaa kohdan 6.1.4 vaikutustenarvioinnilla on merkitystä. Dokumentoi perustelusi; tilintarkastaja kysyy, miten päädyit korkeaan tai matalaan pistemäärään.
Vaihe 5: Arvioi riskikriteerien perusteella
Piirrä jokainen riski matriisiin ja vertaa sitä hyväksyttävään riskikynnykseen. Kaikki kynnyksen ylittävät riskit vaativat käsittelypäätöksen. Kaikki kynnyksen alapuolella tai sen yläpuolella olevat riskit voidaan hyväksyä, jos rekisteriin kirjataan selkeät perustelut.
Vaihe 6: Dokumentoi ja tarkista
Tekoälyriskirekisteri on dokumentoitu tieto kohdan 7.5 mukaisesti. Se tarvitsee omistajat, tarkistussyklit, versiohistorian ja hyväksynnän. Se syötetään suoraan Ilmoitus soveltuvuudesta — Liitteessä A esitetyt kontrollit valitaan ja perustellaan tässä rekisterissä olevien riskien perusteella.
Miten tekoälyn riskejä käsitellään?
Jokaiselle hyväksymiskynnyksesi ylittävälle riskille kohta 6.1.3 edellyttää käsittelypäätöstä. Neljä klassista vaihtoehtoa soveltuvat tekoälykohtaisin vivahtein:
- Välttää. Älä rakenna, ota käyttöön tai käytä tekoälyjärjestelmää. Sopii silloin, kun jäännösriski on kohtuuton edes vahvoilla kontrolleilla (esimerkiksi käyttötapaus, joka automatisoi päätöksen, jolla on merkittävä oikeudellinen vaikutus yksilöihin ilman ihmistä mukana prosessissa).
- Lieventää. Käytä kontrolleja todennäköisyyden, seurausten tai molempien vähentämiseksi. Tämä on yleisin menetelmä. Kontrolleja johdetaan Liite A valvonta, täydennettynä toimiala- tai käyttötapauskohtaisilla toimenpiteillä. Tyypillisiä lieventäviä toimenpiteitä ovat tasapainotettu koulutusdata, reiluustestaus, syötteen ja tulosteen suojakaiteet, ihmisen valvonta, vaiheittainen käyttöönotto ja jatkuva seuranta.
- Siirto. Siirrä riskiä sopimuksen, vakuutuksen tai toimittajavastuun kautta. Hyödyllinen toimitusketjun riskien kannalta (esimerkiksi sopimuspohjaiset palvelutasosopimukset perusmallin toimittajan kanssa), mutta ole varovainen: voit siirtää taloudellisen vastuun, mutta harvoin siirrät vastuuta, etenkään sääntelyviranomaisille.
- Hyväksy. Säilytä riski nimenomaisen, dokumentoidun perustelun ja omistajan kanssa. Sopii vain riskeille, jotka ovat hyväksymiskynnyksen tasolla tai sen alapuolella tai joissa käsittely ei ole osoitetusti kustannustehokasta ja seuraukset ovat rajalliset.
Jokaisella hoitopäätöksellä on oltava nimetty omistaja, tavoitepäivämäärä ja rekisteriin linkitetty todiste hankkeen valmistumisesta. Hoitosuunnitelma ilman toteutusnäyttöä on yksi yleisimmistä poikkeamista ISO 42001 -sertifiointiauditoinneissa.
Aloita helposti henkilökohtaisella tuote-esittelyllä
Yksi perehdytysasiantuntijoistamme opastaa sinua alustamme läpi ja auttaa sinua alkuun luottavaisin mielin.
Miten tekoälyyn liittyviä riskejä seurataan käyttöönoton jälkeen?
Tekoälyriski ei ole staattinen. Malli, joka oli turvallinen julkaisussa, voi muuttua vaaralliseksi kuusi kuukautta myöhemmin datan siirtymisen, käyttäjien käyttäytymisen muutosten, sääntely-ympäristön muutosten tai alkupään perustan mallin päivittymisen vuoksi. Kohdan 9 suorituskyvyn arviointi ja liitteiden A.6.2.6–A.6.2.8 toiminnan valvontamekanismit edellyttävät jatkuvaa seurantaa.
Käytännönläheisellä seurantaohjelmalla on viisi signaalia:
- Mallin suorituskyky. Tarkkuuden, täsmällisyyden, palautuksen, kalibroinnin ja oikeudenmukaisuuden mittareita seurataan käyttöönoton yhteydessä asetettuihin kynnysarvoihin nähden. Rikkomukset käynnistävät uudelleenkoulutuksen tai peruutuksen.
- Tietojen ajautuminen. Tuotantopanosten jakaumien tilastollinen vertailu koulutusjakaumiin nähden. Merkittävä poikkeama käynnistää arvioinnin siitä, sopiiko malli edelleen tarkoitukseen.
- Vaaratilanteet ja läheltä piti -tilanteet. Virallinen kanava käyttäjille, asianomaisille osapuolille ja sisäiselle henkilöstölle tekoälyyn liittyvien huolenaiheiden ilmoittamiseen. Tähän sisältyy triage, perussyyanalyysi ja korjaavat toimenpiteet, jotka kirjataan kohdan 10 mukaisesti.
- Kontrollin tehokkuus. Säännölliset tarkastukset sen varmistamiseksi, että hoitosuunnitelman lieventävät toimenpiteet todella toimivat. Liite A.6.2.6 edellyttää nimenomaisesti toiminnanohjauksen todentamista.
- Ulkoinen konteksti. Uusi sääntely, uudet uhkakuviot, muutokset kolmansien osapuolten malleissa ja uudet parhaat käytännöt. Tämä vaikuttaa riskinarviointiin jokaisen suunnitellun tarkastelun yhteydessä.
Tuotokset syötetään johdon katselmukseen (kohta 9.3) ja niiden perusteella päivitetään riskirekisteriä, sovellettavuuslausuntoa ja tekoälypolitiikkaa. Sykli on jatkuva, ei vuosittainen.
Miten ISMS.online jäsentää tekoälyriskien hallintaa?
ISMS.online tarjoaa tarkoitukseen rakennetun kodin koko tekoälyriskienhallintaprosessille, joka on linjassa kohdan 6.1.2 ja liitteen B normatiivisten ohjeiden kanssa. Saat tekoälyriskirekisterin, joka on integroitu muuhun tekoälynhallintajärjestelmääsi sen sijaan, että se sijaitsisi erillisessä laskentataulukossa.
Alusta tarjoaa sinulle:
- Erillinen tekoälyriskirekisteri erillään tietoturvariskirekisteristäsi, jossa on kenttiä tekoälykohtaisille ominaisuuksille (käyttötapaus, tietolähteet, mallityyppi, asianomaiset osapuolet, riskiluokka) vakiomuotoisten todennäköisyys-, seuraus-, käsittely- ja omistajakenttien rinnalla
- Valmiiksi ladattu tekoälyn riskiluokitus kattaa kahdeksan yllä mainittua luokkaa sekä liitteen C mukaiset riskilähteet, jotta tiimit aloittavat kattavalla luettelolla tyhjän sivun sijaan
- Yhdistettyjen tekoälyjärjestelmien vaikutustenarvioinnit kohdan 6.1.4 osalta, jotta ulospäin suuntautuva vaikutusnäkemys pysyy yhteydessä organisaation riskinäkemykseen ilman päällekkäisyyksiä
- Suora ohjauslinkitys jokaisesta riskistä asiaankuuluviin liitteen A mukaisiin valvontatoimiin, käsittelyä osoittavaan näyttöön ja sovellettavuuslausuntoon asti
- Tarkista työnkulut ja automatisoidut muistutukset joten riskejä tarkastellaan niiden määritellyn syklin mukaisesti, ei silloin, kun joku muistaa
- Ristiviittaukset ISO 27001 -standardin riskeihin jossa tapahtumalla on sekä tietoturva- että tekoälyulottuvuuksia, mikä estää kaksinkertaisen laskennan ja ristiriitaiset hoitosuunnitelmat
- Raportointinäkymät hallitukselle, tekoälyn hallintokomitealle ja sertifiointiauditoijille, jotka on tuotettu samoista pohjatiedoista
Tuloksena on tekoälyyn perustuva riskienhallintaprosessi, jonka tilintarkastaja voi käydä läpi alusta loppuun alle kymmenessä minuutissa ja jota organisaatio voi itse asiassa käyttää tilintarkastusten välillä.
Miksi valita ISMS.online tekoälyriskien hallintaan?
Useimmat GRC-työkalut käsittelevät tekoälyriskiä tietoturvamalliin liitettynä jälkikäteen huomioituna. ISMS.online suunniteltiin tekoälyn hallintaa ensiluokkaisena ominaisuutena. Käytännössä se tarkoittaa seuraavaa:
- Erilliset mutta toisiinsa kytketyt rekisterit. Tekoälyriski (kohta 6.1.2), tekoälyjärjestelmän vaikutustenarviointi (kohta 6.1.4) ja tietoturvariski (ISO 27005) sijaitsevat erillisissä mutta ristiinviittautuneissa rekistereissä, joten jokainen linssi pysyy terävänä samalla, kun dataa jaetaan siellä missä sen kuuluukin.
- Valmiiksi rakennettu tekoälyn riskiluokitus. Liitteen C riskilähteet ja kahdeksan kategorian malli on ladattu valmiiksi, joten tiimisi tunnistaa riskit jäsenneltyä viitekehystä vasten sen sijaan, että se keksisi uuden.
- Live-kartoitus kohteeseen Liite A valvonta. Jokainen riski liittyy suoraan sitä käsitteleviin kontrolleihin, hoidon toimivuutta osoittavaan näyttöön ja sitä perustelevaan sovellettavuuslausuntoon.
- Rakennettu liitteen B ohjeita varten. Työnkulku noudattaa liitteessä B olevia normatiivisia toteutusohjeita, joten prosessisi on oletusarvoisesti standardien mukainen eikä vaadi räätälöityä konfigurointia.
- Integroitu täydelliseen AIMS-järjestelmään. Riskit liittyvät sinuun AI-politiikka, vaikutustenarviointejanne, tarkastusohjelmaanne (kohta 9.2) ja korjaavia toimenpiteitänne (kohta 10), jotta mikään ei jää huomiotta.
- Taattujen tulosten menetelmä. Todistettu käyttöönottopolku ja inhimillinen tuki, jotka ovat auttaneet satoja organisaatioita saavuttamaan sertifioinnin ensimmäisellä kerralla, tekoälyllä toteutetulla riskienhallintajärjestelmällä alusta alkaen sen sijaan, että se olisi asennettu myöhään.
Olitpa sitten rakentamassa ensimmäistä tekoälyriskirekisteriäsi tai kypsentämässä olemassa olevaa, ISMS.online antaa sinulle rakenteen ja työkalut kohdan 6.1.2 käyttämiseen elävänä prosessina. Laajemman kontekstin saat katsomalla toteutusopas.
Oletko valmis näkemään alustan toiminnassa? Varaa demo.
UKK
Mitä eroa on tekoälyn riskinarvioinnilla (kohta 6.1.2) ja tekoälyjärjestelmän vaikutustenarvioinnilla (kohta 6.1.4)?
Kohta 6.1.2 on sisäänpäin suuntautuva organisaatioriskin linssi – mikä voi mennä pieleen organisaatiolle, sen tavoitteille ja toiminnalle, ja miten me käsittelemme sitä. Kohta 6.1.4 on ulospäin suuntautuva linssi – mitä tekoälyjärjestelmä voisi tehdä yksilöille, ryhmille ja yhteiskunnalle, kattaen oikeudenmukaisuuden, turvallisuuden ja perusoikeudet. Molemmat ovat normatiivisia, molemmat on dokumentoitava, ja ne tukevat toisiaan. Niiden suorittaminen yhtenä yhdistettynä toimintona tarkoittaa yleensä yhteiskunnallisen vaikutuksen linssin menettämistä, mikä on yleinen auditointihavainto.
Voinko käyttää ISO 27001 -riskirekisteriäni uudelleen tekoälyriskien hallintaan?
Ei, ei yhtenä yhdistettynä rekisterinä. Tietoturvariskillä (ISO 27005) ja tekoälyriskillä (ISO 42001 kohta 6.1.2) on päällekkäisiä mutta erilliset soveltamisalat. Tietoturva kattaa tiedon luottamuksellisuuden, eheyden ja saatavuuden. Tekoälyriski kattaa lisäksi vääristymän, selitettävyyden, ajautumisen, turvallisuuden ja yhteiskunnallisen vaikutuksen – huolenaiheet, jotka eivät sovi siististi CIA-malliin. Oikea malli on kaksi toisiinsa yhdistettyä rekisteriä ristiviittauksilla, joissa yhdellä tapahtumalla on molemmat ulottuvuudet. ISMS.online tukee juuri tätä järjestelyä.
Onko NIST AI RMF vaihtoehto ISO 42001 -standardille riskienhallinnassa?
Ne täydentävät toisiaan, eivät ole vaihtoehtoja. NIST AI RMF on vapaaehtoinen yhdysvaltalainen viitekehys, joka on organisoitu hallinta-, kartoitus-, mittaus- ja hallintatoimintojen ympärille ja tarjoaa erinomaista käytännön ohjausta. ISO 42001 on kansainvälisesti sertifioitava johtamisjärjestelmästandardi. Organisaatiot käyttävät usein NIST AI RMF -sanastoa ja -käsikirjoja ISO 42001 -standardin edellyttämien toimien toteuttamiseen. Nämä kaksi liittyvät selkeästi toisiinsa, ja monet organisaatiot toteuttavat molempia rinnakkain.
Mitä tekoälyriskien luokkia minun tulisi sisällyttää rekisteriini?
Vähintään: puolueellisuus ja oikeudenmukaisuus, selitettävyys ja läpinäkyvyys, turvallisuus, yksityisyys, suojaus, yhteiskunnallinen vaikutus, operatiivinen (poikkeama, suorituskyky, saatavuus) ja toimitusketju (kolmannen osapuolen mallit, tiedontoimittajat). ISO 42001 -standardin liitteessä C on informatiivinen luettelo tekoälyyn liittyvistä riskilähteistä, joka on linjassa tämän taksonomian kanssa. Toimialakohtaiset luokat, kuten rahoituspalveluiden malliriskienhallinta tai terveydenhuollon kliininen turvallisuus, tulisi lisätä tarvittaessa.
Kuinka usein minun pitäisi tarkistaa tekoälyn riskirekisteri?
Vähintään vuosittain täydellisenä tarkasteluna, joka otetaan huomioon johdon tarkastelussa kohdan 9.3 mukaisesti. Yksittäisillä riskeillä tulisi olla omat tarkastelusyklinsä kriittisyyden perusteella – tyypillisesti neljännesvuosittain suurille riskeille ja puolivuosittain keskisuurille riskeille. Kaikkien olennaisten muutosten tulisi käynnistää ad hoc -tarkastus: uusi tekoälyn käyttötapaus, merkittävä mallipäivitys, uusi sääntely, ilmoitettu poikkeama tai muutos keskeisessä kolmannen osapuolen palveluntarjoajassa. Rekisteri on elävä asiakirja, ei vuosittainen vaatimustenmukaisuuteen liittyvä artefakti.
Edellyttääkö ISO 42001 -standardi automaattista tekoälyriskien seurantaa?
Standardi ei määrää automaatiota, mutta se edellyttää tekoälyjärjestelmän suorituskyvyn ja ohjauksen tehokkuuden jatkuvaa seurantaa (kohta 9.1 ja liitteet A.6.2.6–A.6.2.8). Muutaman matalan riskin tekoälyjärjestelmän lisäksi vaatimus voidaan käytännössä täyttää vain automaattisella mallin suorituskyvyn, datan ajautumisen ja ohjauksen tehokkuuden seurannalla. Laajamittainen manuaalinen seuranta tuottaa usein vanhentunutta dataa ja huomaamatta jääneitä tapahtumia, jotka nousevat esiin poikkeamina valvontatarkastuksessa.
Kenen tulisi vastata tekoälyriskien hallinnasta organisaatiossa?
Vastuun tulisi kuulua nimetylle johtajalle, yleensä tietoturvajohtajalle, riskienhallintajohtajalle tai tekoälyn hallintopäällikölle, organisaation koosta ja tekoälyn kypsyysasteesta riippuen. Päivittäisestä vastuusta vastaa tekoälyn hallintokomitea tai vastaava monialainen ryhmä, joka koostuu datatieteen, suunnittelun, tietoturvan, lakiasioiden, yksityisyyden ja tekoälyä käyttävien liiketoimintayksiköiden edustajista. Jokaisella yksittäisellä riskillä on nimetty omistaja, joka vastaa niiden käsittelystä ja seurannasta. Kohta 5.3 edellyttää, että nämä roolit, vastuut ja valtuudet osoitetaan ja niistä tiedotetaan virallisesti.
