Mikä on vastuullinen tekoäly?
Vastuullinen tekoäly tarkoittaa tekoälyjärjestelmien suunnittelua, rakentamista, käyttöönottoa ja käyttöä turvallisella, oikeudenmukaisella, läpinäkyvällä, vastuullisella ja ihmisoikeuksia kunnioittavalla tavalla. Se toimii siltana tekoälyn korkean tason eettisten lausuntojen ja tekoälyinsinöörien, datatieteilijöiden, tuoteomistajien ja johtajien päivittäisten päätösten välillä, kun he ottavat tekoälyjärjestelmän tuotantoon.
Ilmaus kattaa kaksi erillistä asiaa, jotka usein sekoitetaan toisiinsa. Ensimmäinen on joukko periaatteita – miltä hyvä näyttää, kun tekoälyjärjestelmä on vuorovaikutuksessa ihmisten ja datan kanssa. Toinen on toimintamalli, joka varmistaa näiden periaatteiden noudattamisen, mukaan lukien roolit, käytännöt, kontrollit, riskinarvioinnit ja todisteet. Ilman toimintamallia vastuullinen tekoäly on tavoite diassa. Sen avulla vastuullisesta tekoälystä tulee jotain, jota voidaan auditoida.
Organisaatiot, jotka tekevät tämän oikein, käsittelevät vastuullista tekoälyä johtamisen osa-alueena, eivät viestintäharjoituksena. Juuri tämä muutos on se, joka ISO 42001 luotiin tukemaan.
Mitä on vastuullinen tekoälyn hallinta?
Vastuullinen tekoälyn hallinta on organisaatiosi käyttämä vastuuvelvollisuuden, valvonnan, käytäntöjen, prosessien ja kontrollien järjestelmä, jolla varmistetaan, että tekoälyä kehitetään ja käytetään vastuullisesti. Se on hallintotaso, joka muuttaa periaatteet käytännöksi.
Hyvä vastuullinen tekoälyn hallintaohjelma vastaa lyhyeen listaan vaikeita kysymyksiä:
- Kuka on vastuussa jokaiselle tuotannossa olevalle tekoälyjärjestelmälle, datasta tuloksiin asti?
- Miten riskejä arvioidaan ennen tekoälyjärjestelmän rakentamista ja ennen sen käyttöönottoa?
- Mitä valvontatoimia on käytössä puuttuakseen puolueellisuuteen, turvallisuuteen, yksityisyyteen ja väärinkäyttöön?
- Miten ihmisen valvonta on suunniteltu riskialttiisiin päätöksiin?
- Miten todisteet kerätään jotta voit osoittaa vastuullisen käytön sääntelyviranomaisille, asiakkaille ja hallituksille?
- Miten ohjelmaa parannetaan tapahtumien, auditointien ja suorituskykytietojen perusteella?
Rakenteellisesti vastuullinen tekoälyn hallinta näyttää paljolti samalta kuin mikä tahansa muu johtamisjärjestelmä. Se vaatii johdon sitoutumista, riskiperusteista suunnittelua, toiminnan valvontaa, suorituskyvyn arviointia ja jatkuvaa parantamista. Siksi muodollinen AI-hallintajärjestelmä (AIMS) on tehokkain väline vastuullisen tekoälyn käyttöönottoon.
Mitkä ovat vastuullisen tekoälyn periaatteet?
Yhtä ainoaa yleismaailmallista luetteloa ei ole, mutta OECD:n, EU:n, NIST:n, UNESCOn ja ISO:n edistämät periaatteet keskittyvät samoihin ydinajatuksiin. Alla olevat kahdeksan periaatetta kattavat sen, mitä useimmat sääntelyviranomaiset ja asiakkaat odottavat sinun osoittavan.
- Oikeudenmukaisuus. Tekoälyjärjestelmien ei tulisi luoda tai vahvistaa epäoikeudenmukaista syrjintää yksilöitä tai ryhmiä kohtaan. Tämä tarkoittaa testausta erilaisten vaikutusten varalta, koulutustietojen dokumentointia ja ongelmien korjaamista ennen käyttöönottoa ja sen jälkeen.
- Vastuullisuutta. Jokaisella tekoälyjärjestelmällä on nimetty omistaja, vastuullinen johtaja ja selkeä vastuuketju, joka kattaa datan, mallin, käyttöönoton ja tulokset.
- Avoimuus. Sidosryhmät ymmärtävät, miten tekoälyjärjestelmä toimii, mitä dataa se käyttää, mitä päätöksiä se tekee ja mitkä sen rajoitukset ovat. Tätä tuetaan dokumentaatiolla, kuten mallikorteilla, järjestelmäkorteilla ja käyttäjille näkyvillä tiedonannoissa.
- Turvallisuus. Tekoälyjärjestelmät on suunniteltu välttämään ennakoitavissa olevaa haittaa ihmisille, omaisuudelle ja ympäristölle, ja suojatoimet ovat oikeassa suhteessa käyttötapauksen riskitasoon.
- Yksityisyyttä. Tekoälyjärjestelmien kouluttamiseen ja käyttämiseen käytettävät henkilötiedot suojataan, minimoidaan ja käsitellään laillisesti asianmukaisin teknisin ja organisatorisin toimenpitein.
- Ihmisen valvonta. Korkean riskin tai seurauksellisten päätösten kohdalla on merkityksellinen ihmisen tekemä tarkastus, jolla on valtuudet ja tiedot tekoälyjärjestelmän ohittamiseen.
- Inklusiivisuus. Tekoälyjärjestelmät suunnitellaan ja testataan niiden palvelemien monimuotoisten väestöryhmien, mukaan lukien vammaisten ja aliedustettujen ryhmien, tarpeita vasten.
- Kestävyys. Tekoälyjärjestelmät toimivat luotettavasti kaikissa kohtaamissaan olosuhteissa, kestävät vihamielistä manipulointia ja heikkenevät sulavasti, kun syötteet jäävät odotettujen alueiden ulkopuolelle.
Nämä periaatteet eivät ole valikoita, joista voi valita. Vastuullinen tekoälyn hallinta edellyttää, että käsittelet ne kaikki ja priorisoit investoinnit kunkin tekoälyjärjestelmän riskiprofiilin perusteella.
Miten vastuullisen tekoälyn periaatteet muuttuvat todellisiksi kontrolleiksi?
Periaatteilla on merkitystä vain, jos ne toteutetaan testattavina ja todennettavissa olevina kontrolleina. Alla olevassa taulukossa on esitetty kunkin periaatteen käytännön merkitys, asiaankuuluva ISO 42001 -lauseke tai Liite A valvontaja esimerkki, jonka artefaktiauditoijat odottavat näkevänsä.
| Periaate | Mitä se tarkoittaa käytännössä | ISO 42001 -lauseke tai liitteen A mukainen valvonta | Esimerkki esineestä |
|---|---|---|---|
| Oikeudenmukaisuus | Testaa ja korjaa harjoitusdatan ja mallitulosten välisiä harhoja | A.7 Tekoälyjärjestelmien data, A.6.2 Tekoälyjärjestelmän elinkaari | Harha-arviointiraportti korjaavine toimenpiteineen ja hyväksyntä |
| Vastuullisuus | Nimetyt omistajat, toimitusjohtaja ja dokumentoidut vastuut tekoälyjärjestelmää kohden | 5 § Johtajuus, A.3 § Sisäinen organisaatio | Tekoälyjärjestelmän rekisteri omistajien kanssa, RACI-matriisi, hallitustason raportointi |
| Läpinäkyvyys | Järjestelmädokumentaatio, mallikortit, ulkoiset tiedot, tulosteiden selitykset | A.8 Tietoa kiinnostuneille, A.6 Tekoälyjärjestelmän elinkaari | Julkaistu mallikortti, käyttäjälle näkyvä paljastus, dokumentoitu käyttötarkoitus |
| Turvallisuus | Riskisuhteiset suojatoimet, red teaming, käyttöönottoa edeltävä testaus | Kohta 6.1.2 Tekoälyriski, A.6.2 Tekoälyjärjestelmän elinkaari | Tekoälyn riskirekisterimerkintä hoitoineen, testituloksineen ja kuittauksineen |
| yksityisyys | Oikeusperuste, tietojen minimointi, käyttöoikeuksien hallinta, tietosuojatoimenpiteet | A.7 Tekoälyjärjestelmien data, A.4 Tekoälyjärjestelmien resurssit | Tietosuojan vaikutustenarviointi, tietojenkäsittelyn tiedot |
| Ihmisen valvonta | Määritelty ihmisen osallistuminen prosessiin, eskalointi ja ohitus seurauksellisissa päätöksissä | A.9 Tekoälyjärjestelmien käyttö, A.6.2 Tekoälyjärjestelmän elinkaari | Dokumentoitu valvontamalli, eskalointimenettely, ohitusten loki |
| Osallisuus | Monipuolinen suunnittelutyö, esteettömyystestaus, aliedustettujen ryhmien arviointi | A.5 Tekoälyjärjestelmien vaikutusten arviointi, A.6 Tekoälyjärjestelmän elinkaari | Vaikutustenarviointi, joka kattaa kohderyhmät, esteettömyystestien tulokset |
| kestävyys | Suorituskykytestaus eri olosuhteissa, vastustuskyky, sujuva epäonnistuminen | A.6.2 Tekoälyjärjestelmän elinkaari, kohta 9.1 Valvonta | Validointi- ja varmennusraportti, valvonnan kojelauta, tapahtumaloki |
Jokainen rivi on auditointikeskustelu, joka odottaa tapahtumistaan. Jos et pysty tuottamaan esimerkkiartefaktia pyydettäessä, ohjausobjekti ei toimi riippumatta siitä, mitä käytäntösi sanoo.
Kaikki mitä tarvitset ISO 42001:een
Strukturoitu sisältö, kartoitetut riskit ja sisäänrakennetut työnkulut auttavat sinua hallitsemaan tekoälyä vastuullisesti ja luottavaisesti.
Mitkä viitekehykset tukevat vastuullista tekoälyä?
Vastuullista tekoälyn hallintaa ei tarvitse keksiä alusta alkaen. Muutamat viitekehykset jo sisältävät konsensusnäkemyksen, ja useimmat organisaatiot käsittelevät useita niistä samanaikaisesti.
ISO / IEC 42001
ISO 42001 on ensimmäinen sertifioitavissa oleva tekoälyn hallintajärjestelmien kansainvälinen standardi. Se kattaa 10 lauseketta, 38 liitteen A mukaista valvontaa yhdeksällä valvonta-alueella ja liitteen B normatiivisen täytäntöönpano-ohjeistuksen. Se on suunniteltu integroitavaksi muihin hallintajärjestelmästandardeihin, kuten ISO 27001 ja ISO 9001, ja se tarjoaa auditoitavan selkärangan, jota useimmat vastuulliset tekoälyohjelmat tarvitsevat. Meidän tekoälyn hallintokuilun kurominen umpeen Opas osoittaa, miten standardi käsittelee käytännön puutteita, joihin tiimit törmäävät.
NIST AI Risk Management Framework
NIST AI RMF on Yhdysvaltain kansallisen standardien ja teknologian instituutin (National Institute of Standards and Technology) vapaaehtoinen viitekehys. Se määrittelee neljä ydintoimintoa (hallinta, kartoitus, mittaus ja hallinta) ja joukon luotettavan tekoälyn ominaisuuksia. Se on erityisen hyödyllinen tekoälyriskien organisointimallina ja sopii hyvin yhteen ISO 42001 -standardin kanssa, joka tarjoaa hallintajärjestelmän ja kontrollit RMF-toimintojen toteuttamiseksi.
OECD:n tekoälyperiaatteet
OECD:n tekoälyperiaatteet hyväksyttiin vuonna 2019 ja päivitettiin vuonna 2024. Ne ovat useimpien hallitusten käyttämä poliittinen viitekehys, joka kattaa osallistavan kasvun, ihmisoikeudet, läpinäkyvyyden, kestävyyden ja vastuuvelvollisuuden. Ne ovat pikemminkin periaatteita kuin viitekehys, joten niitä käytetään aikomusten vertailemiseen toimintamallin rakentamisen sijaan.
EU:n tekoälylaki
EU:n tekoälylaki on ensimmäinen kattava tekoälyasetus. Se on riskiperusteinen ja luokittelee tekoälyjärjestelmät hyväksymättömiksi, korkean, rajoitetun tai minimaalisen riskin järjestelmiksi, ja tiukimmat velvoitteet koskevat korkean riskin järjestelmiä. EU:n tekoälylaki ei sinänsä ole kehys vastuulliselle tekoälyn hallinnalle, mutta se luo oikeudellisia velvoitteita, jotka hyvin suunniteltu vastuullinen tekoälyohjelma, joka perustuu ISO 42001 -standardiin, pystyy hyvin täyttämään.
Käytännössä useimmat organisaatiot käyttävät samaa standardia: ISO 42001 -standardia johtamisjärjestelmänä, NIST:n tekoälyn riskinhallintajärjestelmää riskienhallinnan organisointimallina, OECD:n periaatteita aiejulistuksena ja säännöksiä, kuten EU:n tekoälylakia, sitovina rajoituksina.
Miten toteutat vastuullisen tekoälyn hallinnan askel askeleelta?
Toteutus ei ole yksittäinen projekti. Se on ohjelma, jolla on ennustettava järjestys. Seuraavat vaiheet noudattavat ISO 42001 -standardin rakennetta ja vaiheita, joita useimmat kehittyneet organisaatiot käyvät läpi.
Vaihe 1: Määrittele laajuus ja konteksti
Tunnista käytössä olevat tai suunnitellut tekoälyjärjestelmät, mukana olevat liiketoimintayksiköt, vaikutuspiirissä olevat ulkoiset osapuolet sekä voimassa olevat lakisääteiset ja sääntelyyn liittyvät vaatimukset. Tämä on ISO 42001 -standardin kohta 4 ja jokaisen myöhemmän päätöksen perusta.
Vaihe 2: Johtajuuden suunnan ja toimintaperiaatteiden asettaminen
Nimitä johtotason sponsori ja luo toimintojen välinen yhteistyöverkosto Tekoälyn hallinta foorumi ja julkaise AI-politiikka joka sitoutuu vastuulliseen käyttöön ja asettaa organisaation toimintaperiaatteet. Tämä on 5. kohta.
Vaihe 3: Arvioi tekoälyyn liittyvää riskiä ja järjestelmän vaikutusta
Suorita tekoälyyn liittyvä riskinarviointi (kohta 6.1.2), joka kattaa organisaatioon kohdistuvat riskit, ja tekoälyjärjestelmän vaikutustenarviointi (kohta 6.1.4), joka kattaa yksilöihin ja yhteiskuntaan kohdistuvat vaikutukset. Nämä kaksi arviointia ovat erilaisia ja molemmat ovat pakollisia. Katso oppaamme aiheesta Tekoälyvaikutusten arvioinnit käytännön yksityiskohtien vuoksi.
Vaihe 4: Ota käyttöön ohjaimet
Valitse ja toteuta liitteen A (ja sen ulkopuolisten) riskien ja vaikutusten hallintakeinot. Kattaa kaikki yhdeksän liitteen A osa-aluetta: käytännöt, sisäinen organisaatio, resurssit, vaikutustenarvioinnit, elinkaari, data, sidosryhmät, käyttö ja kolmannet osapuolet.
Vaihe 5: Dokumentoi kaikki
Jokainen tekoälyjärjestelmä tarvitsee jäsennellyn tallenteen: käyttötarkoitus, tietolähteet, mallitiedot, suorituskykymittarit, rajoitukset, riskienkäsittely ja ihmisen suorittamat valvontajärjestelyt. Kohdassa 7.5 edellytetään, että tämä on versiohallittua, hyväksyttyä ja saatavilla olevaa.
Vaihe 6: Käytä ja valvo
Suorita tekoälyjärjestelmiä määrittelemiesi kontrollien mukaisesti. Seuraa suorituskykyä, oikeudenmukaisuutta, poikkeamaa ja häiriötilanteita. Kerää todisteita kontrollien toiminnasta. Tämä on kohta 8 (toiminnot) ja kohta 9.1 (seuranta).
Vaihe 7: Tarkastus ja arviointi
Suorita sisäisiä auditointeja ISO 42001 -standardin mukaisesti (kohta 9.2) ja tarkista ohjelma johtotasolla (kohta 9.3). Löydökset ohjaavat korjaavia toimenpiteitä ja parannuksia (kohta 10).
Vaihe 8: Paranna jatkuvasti
Käytä tapahtumia, tarkastushavainnot, johdon arviointi, sidosryhmien palaute ja ulkoisen ympäristön muutokset (uusi sääntely, uudet tekoälyominaisuudet, uudet uhat) ohjelman kehittämiseksi. Yksityiskohtaisen ohjeistuksen löydät toteutusopas.
Mitä yleisiä sudenkuoppia vastuullisessa tekoälyssä on?
Samat vikaantumistyypit esiintyvät kaikilla toimialoilla. Niiden tunnistaminen varhain on nopein tapa välttää ne.
- Politiikka ilman täytäntöönpanoa. Kauniisti kirjoitettu tekoälykäytäntö, jota vastaan kukaan ei toimi. Jos vahvistuksia, hyväksyntöjä tai auditointitodisteita ei ole, käytäntö on olemassa vain paperilla.
- Mallikortit ilman päivityksiä. Dokumentaatio laaditaan julkaisun yhteydessä, eikä sitä koskaan päivitetä mallin, datan tai käyttötapauksen muuttuessa. Tilintarkastajat ja sääntelyviranomaiset havaitsevat vanhentuneen dokumentaation nopeasti.
- Puolueiden arviointi ilman korjaavia toimenpiteitä. Tiimit suorittavat harhatestejä, kirjaavat löydökset ja lähettävät tuotteen joka tapauksessa, koska ei ole määriteltyä korjaavaa polkua. Oikeudenmukaisuudesta tulee rasti ruutuun, ei kontrolli.
- Auditoimattomat LLM:t tuotannossa. Kolmannen osapuolen laajat kielimallit integroidaan asiakaskohtaisiin työnkulkuihin ilman lokikirjausta, nopeaa hallintaa tai arviointikehystä. Kun jokin menee pieleen, ei ole mitään, millä tutkia.
- Puuttuva tapahtumaprosessi. Ei määriteltyä tekoälytapauksen määritelmää, ei eskalointiprosessia, ei yhteyttä tekoälytapausten ja laajemman tapausten hallintaohjelman välillä. Opitut asiat eivät koskaan palaa takaisin valvontaan.
- Ei ihmistä mukana riskialttiiden päätösten tekemisessä. Järjestelmät tekevät merkittäviä päätöksiä (palkkaaminen, luottojen myöntäminen, kliininen arviointi) kumileimasimella varustetulla ihmisarvioinnilla, jolla ei ole tietoa eikä valtuuksia puuttua asiaan.
- Vastuullinen tekoäly kertaluonteisena projektina. Vastuullinen tekoälyohjelma käynnistetään, sertifioidaan ja jätetään sitten rapistumaan. Ilman jatkuvaa parantamista ohjelma vanhenee vuoden sisällä.
Jokainen näistä on hallinnon, ei teknologian, epäonnistuminen. Siksi tulevaisuuden varautuminen vastuullisen tekoälyn avulla riippuu sen ympärille rakennetun hallintajärjestelmän laadusta.
Aloita helposti henkilökohtaisella tuote-esittelyllä
Yksi perehdytysasiantuntijoistamme opastaa sinua alustamme läpi ja auttaa sinua alkuun luottavaisin mielin.
Miten ISMS.online tukee vastuullista tekoälyn hallintaa
ISMS.online tarjoaa toimintaympäristön vastuullisen tekoälyn hallinnan toteuttamiseen hallittuna ohjelmana, ei hyvien aikomusten joukkona. Kaikki, mitä vastuullinen tekoälykehys vaatii – käytännöt, riskinarvioinnit, vaikutustenarvioinnit, kontrollit, todisteet, auditoinnit – sijaitsee yhdessä yhdistetyssä työtilassa, joka on yhdistetty ISO 42001 -standardin lausekkeisiin ja kontrolleihin.
Näin alusta vastaa kahdeksaa periaatetta ja yllä olevia toteutusvaiheita:
- Valmiiksi rakennettu tekoälypohjainen hallintajärjestelmä. Toimivat tavoitteet, jotka on linjattu ISO 42001 -standardin 10 lausekkeen kanssa, jotta ohjelmasi alkaa rakenteesta eikä tyhjältä sivulta.
- Vastuullisen tekoälyn toimintasuunnitelmat. Valmiiksi laaditut tekoälykäytännöt, jotka kattavat oikeudenmukaisuuden, läpinäkyvyyden, vastuuvelvollisuuden ja ihmisen suorittaman valvonnan, mukaan lukien versionhallinta, hyväksyntäprosessit ja käyttäjien vahvistukset.
- Tekoälyn riski- ja vaikutusarviointirekisterit. Erilliset, toisiinsa liittyvät rekisterit kohdan 6.1.2 Tekoälyriski ja kohdan 6.1.4 Tekoälyjärjestelmän vaikutus osalta, pisteytys, hoitosuunnitelmat, omistajat ja arviointisyklit mukaan lukien.
- Liitteen A ohjauskirjasto. Kaikki 38 valvontaa yhdeksällä liitteen A alueella ovat räätälöitävissä ja näyttöön perustuvat linkitykset, joiden avulla oikeudenmukaisuuden, läpinäkyvyyden, turvallisuuden ja valvonnan kontrollit tuottavat auditoitavia artefakteja.
- Dokumentaatiokeskus. Keskitetty sijainti mallikorteille, käyttötarkoituslausunnoille, validointiraporteille ja sidosryhmien tiedonannoille, kaikki versionhallinta ja käyttöoikeuksien hallinta.
- Auditoinnin ja johdon tarkastusten työnkulut. Sisäiset auditoinnit (kohta 9.2), johdon katselmukset (kohta 9.3) ja korjaavat toimenpiteet (kohta 10) ensiluokkaisina ominaisuuksina, jotta vastuullista tekoälyn hallintaa parannetaan jatkuvasti sen sijaan, että se jähmettyy julkaisun yhteydessä.
Miksi valita ISMS.online vastuullisen tekoälyn käyttöön?
ISMS.online on suunniteltu erityisesti tekoälyn hallintaa varten, ei jälkiasennettu tietoturvatuotteeseen. Sillä on merkitystä, kun vastuullinen tekoäly on tulos, jota sinun on todistettava.
- Toteuttaa kahdeksan periaatetta toiminnallisesti. Jokaisella periaatteella – oikeudenmukaisuus, vastuuvelvollisuus, läpinäkyvyys, turvallisuus, yksityisyys, ihmisen valvonta, osallistavuus ja vankkuus – on paikkansa alustalla, ja se on linkitetty sitä toteuttaviin lausekkeisiin ja valvontamekanismeihin.
- Tarkoitukseen rakennetut TAVOITTEET. Esikonfiguroitu tekoälyhallintajärjestelmä, joka kattaa kaikki 10 lauseketta ja 38 liitteen A mukaista kontrollia, joten tiimisi voi räätälöidä suunnittelun sijaan.
- Kaksoisarviointityökalut. Natiivi tuki sekä tekoälyriskille (kohta 6.1.2) että tekoälyjärjestelmän vaikutuksille (kohta 6.1.4), pisteytyksellä, käsittelyllä ja linkittämisellä kontrolleihin ja näyttöön.
- Todisteet, joita voit tarkastaa. Kontrolloidut käytännöt, mallidokumentaatio, testitulokset ja tapahtumatietueet yhdessä auditoitavassa kirjastossa, jotka on yhdistetty asiaankuuluviin kontrolleihin.
- Usean kehyksen yhdenmukaistaminen. Rakenna kerran ja mukauta ISO 42001 -standardiin, NIST AI RMF:ään, OECD:n periaatteisiin ja EU:n tekoälylain vaatimuksiin yhdellä alustalla.
- Taattujen tulosten menetelmä. Todistettu ja ihmisosaamiseen perustuva käyttöönottotapa, jota sadat organisaatiot ovat käyttäneet auditointivalmiuteen pääsemiseksi ja sen ylläpitämiseksi.
Oletko valmis näkemään alustan toiminnassa? Varaa demo nähdä miten ISMS.online toteuttaa vastuullisen tekoälyn hallinnan koko organisaatiossasi.
UKK
Mitä on vastuullinen tekoäly yksinkertaisesti sanottuna?
Vastuullinen tekoäly tarkoittaa tekoälyjärjestelmien rakentamista, käyttöönottoa ja käyttöä turvallisella, oikeudenmukaisella, läpinäkyvällä, vastuullisella ja ihmisoikeuksia kunnioittavalla tavalla. Se yhdistää joukon periaatteita hallintoon, käytäntöihin ja valvontaan, joita tarvitaan, jotta nämä periaatteet toimivat käytännössä – eivätkä vain ilmene missiolausekkeessa.
Mitä eroa on vastuullisella tekoälyllä ja tekoälyn hallinnolla?
Vastuullinen tekoäly on lopputulos – tekoälyjärjestelmät, jotka täyttävät sovitut periaatteet. Tekoälyn hallinta on vastuuvelvollisuuden, valvonnan, käytäntöjen ja kontrollien järjestelmä, joka tuottaa kyseisen tuloksen. Vastuullinen tekoälyn hallinta on yhdistetty ilmaus: tekoälyn hallinta tavalla, joka tuottaa vastuullisia tuloksia, jotka on osoitettu dokumentoinnilla, kontrolleilla ja auditoinnilla.
Mitkä ovat vastuullisen tekoälyn ydinperiaatteet?
Useimmat viitekehykset perustuvat kahdeksaan periaatteeseen: oikeudenmukaisuus, vastuuvelvollisuus, läpinäkyvyys, turvallisuus, yksityisyys, ihmisen valvonta, osallistavuus ja luotettavuus. Tarkka sanamuoto vaihtelee OECD:n, NIST:n, UNESCOn ja ISO:n välillä, mutta tarkoitus on sama. Vastuullinen tekoälyn hallinta edellyttää, että kaikkia niitä käsitellään kunkin tekoälyjärjestelmän riskiprofiilin mukaan priorisoiden.
Onko ISO 42001 oikea viitekehys vastuulliselle tekoälyn hallinnalle?
Useimmille organisaatioille kyllä. ISO 42001 on ensimmäinen sertifioitavissa oleva kansainvälinen standardi tekoälyn hallintajärjestelmille, ja se koodaa yhteisesti hyväksytyt periaatteet jäsenneltyyn, auditoitavaan lausekkeiden ja kontrollien kehykseen. Se integroituu ISO 27001 -standardiin ja muihin hallintajärjestelmästandardeihin ja tarjoaa toiminnallisen selkärangan, jonka avulla voit osoittaa vastuullisen tekoälyn asiakkaille, sääntelyviranomaisille ja hallituksille.
Miten vastuullinen tekoälyn hallinta liittyy EU:n tekoälylakiin?
EU:n tekoälylaki luo oikeudellisesti sitovia velvoitteita EU:ssa toimiville tekoälyjärjestelmien tarjoajille ja käyttöönottajille, erityisesti korkean riskin järjestelmien osalta. Hyvin suunniteltu vastuullinen tekoälyn hallintaohjelma, joka on rakennettu ISO 42001 -standardin ympärille, tarjoaa suurimman osan EU:n tekoälylain edellyttämistä kontrollitoimista – riskienhallinnan, tiedonhallinta, läpinäkyvyyden, ihmisen suorittaman valvonnan, tarkkuuden, kestävyyden ja kyberturvallisuuden – sekä todisteiden polun vaatimustenmukaisuuden osoittamiseksi.
Kuinka kauan vastuullisen tekoälyn hallinnan toteuttaminen kestää?
Organisaatioissa, joilla on jo kypsä johtamisjärjestelmä (ISO 27001, ISO 9001), ISO 42001 -standardin mukainen vastuullinen tekoälyohjelma voidaan ottaa käyttöön viikoissa kuukausien sijaan, koska suuri osa hallintoinfrastruktuurista on uudelleenkäytettävää. Alusta alkaen organisaatioilla kestää tyypillisesti 3–6 kuukautta olla valmiina auditointiin riippuen auditoinnin laajuudesta, tekoälyjärjestelmien määrästä ja sisäisistä resursseista. Kypsyysaste kasvaa sitten seuraavien syklien aikana, kun tapaukset, auditoinnit ja johdon katselmukset edistävät jatkuvaa parantamista.
Tarvitsemmeko vastuullista tekoälyn hallintaa, jos käytämme vain kolmannen osapuolen tekoälytyökaluja?
Kyllä. Vastuullinen tekoälyn hallinta koskee organisaatioita, jotka kehittävät, tarjoavat tai käyttävät tekoälyjärjestelmiä. Jos tiimisi käyttävät kolmannen osapuolen laajoja kielimalleja, rinnakkaispilotteja tai tekoälyllä varustettuja SaaS-palveluita, tarvitset silti käyttötarkoituksen dokumentaation, toimittajien due diligence -tarkastuksen, ihmisen valvontajärjestelyt ja tapausprosessin. ISO 42001 -standardin liite A.9 (tekoälyjärjestelmien käyttö) ja liite A.10 (kolmannet osapuolet ja asiakassuhteet) on suunniteltu juuri tätä tilannetta varten.
