On vuosi 2023, ja tekoäly näyttää olevan kaikkialla. ChatGPT, Elon Muskin perustaman OpenAI-instituutin tuottama tekoäly, kirjoittaa opiskelijoille esseitä , tuottaa kirjoja ja jopa haastaa pysäköintisakot . Eräässä tapauksessa, joka todistaa meidän elävän Black Mirror -jaksossa, erityisen sieluton yliopiston työntekijä jopa käytti sitä lohduttaakseen opiskelijoita joukkoampumisen jälkeen.

Miten ChatGPT toimii

Tietosuoja- ja turvallisuusasiantuntijat saattavat pohtia, kuinka tekoäly voisi auttaa heitäkin. Voisiko se esimerkiksi kirjoittaa tietosuojakäytäntösi? Vastaus on kyllä ​​– tavallaan.

Jotta voit purkaa kysymyksen perusteellisemmin, kannattaa ymmärtää, miten ChatGPT:n uudempi tekoäly toimii. Se perustuu suureen kielimalliin (LLM). Tämä on tekoälymalli, joka on koulutettu käyttämällä suurta tekstikokonaisuutta, joka on tyypillisesti kaavittu Internetistä. Harjoitteluprosessi jakaa tämän tekstin tunnuksiksi, jotka voivat olla sanojen osia. Sitten se käyttää valtavia määriä laskentatehoa löytääkseen kielestä malleja, jotka auttavat sitä ymmärtämään, kuinka nämä tunnukset liittyvät toisiinsa.

Kun joku kysyy tekoälyltä pyyntöä (sanotaan "selitä kylmäfuusio Sherlock Holmesin tyyliin"), tekoäly käyttää laajaa koulutusmalliaan ottamaan sanapalstoja ja ennustamaan, mitkä niistä todennäköisesti tulevat seuraavaksi. Näin se voi tuottaa vakuuttavan kielen, joka näyttää noudattavan kehotteessa esitettyjä käsitteitä.

Itsevarma ja tyhmä: Huono yhdistelmä

Tämän lähestymistavan ongelmana on, että tekoäly ei tiedä, mistä se puhuu. Tutkijat ovat verranneet sitä "stokastiseen papukaijaan", joka ketjuttaa yhteen satunnaisia ​​sanoja ymmärtämättä niitä. Tätä kuvaavassa artikkelissa " On the Dangers of Stochastic Parrots " todetaan, että "kielet ovat merkkijärjestelmiä, eli muodon ja merkityksen yhdistelmiä". Kun joku sanoo "kani", ymmärrät kanin käsitteen ja sen, miten se liittyy moniin muihin asioihin (pääsiäinen, kevät, lemmikit, maukas pata jne.). "Mutta LM:ien koulutusdata on vain muotoa", tutkijat sanovat. "Heillä ei ole pääsyä merkitykseen."

Tämä aiheuttaa ongelmia LLM:ille, joihin luotat asiasisällön suhteen. Koska he hankkivat sanat pikemminkin tilastollisen todennäköisyyden kuin tiedon perusteella, heillä on tapana kirjoittaa asioita, jotka eivät ole totta. Tekoälyslangissa tätä kutsutaan "hallusinaatioksi", ja se on ongelma, jos haluat luottaa niihin asiasisällön suhteen.

ChatGPT:n käyttöä on kokeiltu tietosuojakäytännön kirjoittamiseen kyseenalaisin tuloksin. He havaitsivat ennustettavasti, että tulokset olivat huonompia, kun LLM:n piti täyttää enemmän tyhjiä kohtia.

Yksinkertaiset tekoälykehotteet palauttivat käytännöt, jotka eivät perustuneet tiettyihin tietosuojalakeihin eivätkä liittyneet tiettyihin liiketoimintakäytäntöihin. Tietosuojakäytäntö parani testaajien lisättyä tietoa siihen pisteeseen, jossa se tuotti vaikuttavan tuloksen. Kuitenkin siihen mennessä "sinun täytyy käyttää tunteja, päiviä tai jopa viikkoja ensin selvittääkseen, mitä tietosuojalakeja sovelletaan sinuun, analysoimalla näiden lakien julkistamisvaatimuksia ja toimittamalla sitten nämä tiedot ChatGPT:lle yhdessä erityisten liiketoimintakäytäntöjesi kanssa, " hän sanoo. Mikä herättää kysymyksen: miksi ei vain tehdä kaikkea itse ensin?

Toiset ovat kuvanneet ChatGPT:tä ja vastaavia LLM:itä "sanojen laskimiksi". Ne ovat todella hyödyllisiä kirjoittamiseen vain, jos teet itse paljon työtä ja tarkistat huolellisesti tulokset.

Ihmisten tekoälyn käyttö on usein myös itsevarmaa ja tyhmää

Emme voi luottaa tekoälytyökaluihin, mutta voimme luottaa siihen, että ihmiset käyttävät niitä väärin. Olemme jo nähneet huonosti suunnitellun ja sopimattomasti sovelletun tekoälyn seuraukset, mikä on johtanut merkittäviin laskuihin, jotka vaikuttavat tosielämään.

Viranomaiset ovat käyttäneet tekoälypohjaisia ​​järjestelmiä, joiden on osoitettu olevan puolueellisia oikeudellisten tuomioiden suosittelemisessa. Esimerkiksi Alankomaiden veroviranomaisen tekoälyohjelmistojen väärinkäyttö johti siihen, että virasto syytti vanhempia epäoikeudenmukaisesti petoksesta – sokea usko virheellisiin tekoälypohjaisiin kasvojentunnistusalgoritmeihin johti viattomien ihmisten virheellisiin pidätyksiin . Puolueellisuus näkyi myös Amazonin tekoälypohjaisessa rekrytointijärjestelmässä, joka lakkautettiin sen jälkeen, kun se ei jatkuvasti suositellut päteviä naisia ​​teknologia-alan työpaikkoihin.

Miten voimme lähestyä tätä ongelmaa? Jotkut asiantuntijat ovat jo vaatineet kuuden kuukauden moratoriota tekoälyn kehittämiselle, jotta ymmärtäisimme koko sotkun ennen kuin tilanne riistäytyy käsistä entisestään.

Ohjeista ei ole pulaa

Meillä on jo runsaasti vastuullisen tekoälyn ohjeita, joista valita, ja niissä sanotaan samankaltaisia ​​asioita. Edunvalvontaryhmä Algorithm Watch pitää yllä luetteloa eri instituutioiden tekoälyohjeista, mukaan lukien EU:n luotettavan tekoälyn eettiset ohjeet . Yksi kirjoitushetkellä puuttuva ohje oli Yhdysvaltain kansallisen standardi- ja teknologiainstituutin (NIST) tekoälyriskien hallintakehys , joka julkaistiin tammikuussa tänä vuonna. Kuten useimmat muutkin ohjeet, NIST-kehys pyrkii tarjoamaan joitakin suuntaviivoja tekoälyn kehittämiselle ja soveltamiselle. Se myös heijastelee useita muiden eettisten ohjeiden yleisiä periaatteita, kuten läpinäkyvyyttä, vastuuvelvollisuutta, yksityisyyttä, turvallisuutta ja sietokykyä.

OECD:n mukaan kirjoitushetkellä on käynnissä yli 800 tekoälypoliittista aloitetta lähes 70 maassa, mutta sitovan ja ei-sitovan politiikan välillä on suuri ero. Useimpien aloitteiden, myös NISTien, noudattaminen on vapaaehtoista.

Katsaus Clearview AI:n kaltaisiin yrityksiin osoittaa, kuinka tärkeää on valvoa tekoälykäytäntöjen laillista noudattamista pelkän kohteliaan pyytämisen sijaan. Startup-yritys, joka myy kasvojentunnistuspalveluita lainvalvontaviranomaisille, käyttää niitä miljoonien sosiaalisesta mediasta ilman ihmisten suostumusta varastettujen valokuvien avulla.

Sääntely ei riitä

Maat ovat jakautuneet suhtautumisessaan politiikkansa tiukkaan säätelyyn. Kaikilla on sama haaste: liian vähän sääntelyä, ja heillä on riski teknologian ennakoimattomasta ja vastuuttomasta käytöstä. Liian paljon, ja ne saattavat pakottaa potentiaalisesti tuottoiset tekoälyinnovaattorit muuttamaan pois.

Yhdysvallat ei ole vielä sääntelenyt tekoälyä. Kongressi ehdotti algoritmisen vastuuvelvollisuuden lakia vuonna 2022, mutta se kaatui ilman äänestystä. Liittovaltion kauppakomissio (FTC) on luvannut käyttää nykyisiä valtuuksiaan suojellakseen Yhdysvaltain asukkaita tekoälyn törkeältä käytöltä. Se on myös antanut ennakkoilmoituksen ehdotetusta säännöstöstä , joka voisi enteillä laajoja uusia kauppasääntöjä automatisoitujen päätöksenteko- ja valvontajärjestelmien käsittelemiseksi.

EU on ollut aggressiivisempi ja ehdottanut tekoälylakia , jonka toivotaan menevän läpi tänä vuonna. Se kattaisi kaikki tekoälytuotteet ja -palvelut, luokittelee ne niiden havaitun riskitason mukaan ja soveltaa tiukkoja arviointeja ja tietojen vaatimustenmukaisuussääntöjä riskialttiimpiin tuotteisiin ja palveluihin. Rikkojille langetettaisiin tuntuvia sakkoja.

Iso-Britannia on omaksunut niin sanotusti " innovaatiomyönteisen lähestymistavan ". Sen sijaan, että nimitettäisiin yksi uusi tekoälyviranomainen, se jakaa tekoälyn sääntelyvastuun nykyisten sääntelyviranomaisten kesken eikä aluksi anna niille uusia oikeudellisia valtuuksia tehdä niin.

Kun poliitikot kävelevät tiukkana köyden etiikan ja taloudellisen hyödyn välillä, tekoälyn tulevaisuus on vaakalaudalla. Yksi asia on varma: vastuullisen toiminnan jättäminen yksin teknologiayritysten tehtäväksi olisi…vastuutonta.