Miten terveydenhuollon organisaatiot voivat ratkaista luottamuksen ja tiedonhallinnan aukot hyödyntääkseen tekoälyn kaikki hyödyt?
Kate O'Flaherty
Terveydenhuoltoala innovoi tekoälyn avulla, ja teknologialla on valtava potentiaali eri osa-alueilla, kuten diagnostiikassa, luokittelussa ja hallinnossa.
Isossa-Britanniassa NHS on jo tekoälyn omaksuminen perustehtävien lisäksi. NHS England on aloittanut Keuhkosyöpäseulonnan pilottihankkeita tekoälyllä, jossa teknologia pystyy tunnistamaan pienempiä ongelmia kuin mitä ihmissilmä näkee.
Samaan aikaan Yhdysvaltain elintarvike- ja lääkevirasto (FDA) on valtuutettu yli 1 000 tekoälyä sisältävää laitetta, joista suurinta osaa käytetään radiologiassa.
Viimeisten kahden vuoden aikana terveydenhuollon johtajat ovat siirtyneet tekoälyn merkityksellisyyden kyseenalaistamisesta keskittymään siihen, miten sitä voidaan käyttää vastuullisesti ja laajamittaisesti, tuoreen tutkimuksen mukaan. McKinsey-raportti.
Luvut osoittavat, että puolet yhdysvaltalaisista terveydenhuollon organisaatioista on jo ottanut käyttöön generatiivisen tekoälyn, ja yli 80 % oli ottanut käyttöön ensimmäiset käyttötapauksensa loppukäyttäjille. McKinseyn mukaan seuraava vaihe on nähdä organisaatioiden siirtyvän generatiivisen tekoälyn käytöstä sisällön luomiseen ja yksittäisten tehtävien tukemiseen kohti agentti AI ryhtyä toimiin ja koordinoida monimutkaisempia prosesseja.
Terveydenhuollon tekoälyn innovaatioita hidastavat kuitenkin merkittävät esteet, mukaan lukien tietoturvariskit ja vaatimustenmukaisuusongelmat, jotka johtuvat järjestelmien kouluttamiseen tarvittavista valtavista arkaluonteisista tietomääristä. Miten terveydenhuollon organisaatiot voivat ratkaista luottamuksen ja tiedonhallinnan aukot hyödyntääkseen tekoälyn kaikki hyödyt?
Erittäin arkaluontoiset tiedot
Terveydenhuollon tiedot ovat alan arkaluonteisimpia ja monitahoisimpia, ja ne sisältävät potilastietoja, henkilötietoja ja taloudellisia tietoja useilta palveluntarjoajilta ja järjestelmistä.
”Potilaan tiedot voivat sijaita eri sairaaloissa, yleislääkärin vastaanotoilla, erikoislääkäreillä, laboratorioissa, apteekeissa, vakuutusyhtiöissä ja teknologia-alustoilla – usein yhteensopimattomissa muodoissa ilman yhtenäistä rekisteriä”, Semarchyn teknologiajohtaja Craig Gravina selittää.
Tuloksena on, että mikään yksittäinen järjestelmä ei anna täydellistä kuvaa potilaasta. ”Kuvan rakentaminen – pitkittäispotilaskertomus – on välttämätöntä, jotta tekoäly toimisi turvallisesti ja tehokkaasti kliinisessä ympäristössä”, Gravina kertoo. IO”Ilman sitä tekoäly toimii epätäydellisen ja epäluotettavan kuvan pohjalta. Terveydenhuollossa tämä ei ole pelkkää dataongelmaa, vaan siitä tulee potilasturvallisuuskysymys.”
Tekoälyn yleistyessä kliinisten työnkulkujen osana organisaatioihin kohdistuu yhä enemmän paineita vastata peruskysymyksiin: Mistä tämä data on peräisin, onko se validoitu, kuka voi käyttää sitä ja voidaanko tekoälyllä avustettuja päätöksiä auditoida? ”Kun järjestelmät alkavat vaikuttaa kliinisiin päätöksiin laajamittaisesti, heikot dataperustat paljastavat vakavia aukkoja luottamuksessa ja vastuullisuudessa”, Gravina sanoo.
Tekoälyteknologian käyttöönotto aiheuttaa ongelmia kolmella alueella: vastuullisuudessa, selitettävyydessä ja suostumuksessa, sanoo Liferayn toimitusjohtaja Mike Macauley. ”Kukaan ei tiedä, ketä syyttää, kun tekoäly antaa lääketieteellisiä neuvoja. Jos järjestelmä antaa suosituksen, laki ei voi sanoa, kuka on vastuussa lopputuloksesta.”
Macauleyn mukaan monet tekoälymallit ovat käytännössä "mustia laatikoita", jotka eivät selitä, miten ne päätyvät johtopäätöksiin. Tämä aiheuttaa oikeudellisen ongelman Ison-Britannian lainsäädännön nojalla. Yleinen tietosuojadirektiivi (GDPR), koska potilailla on oikeus tietää, miksi tietokone teki tietyn päätöksen heidän terveydestään, Macauley sanoo.
Samaan aikaan yritykset kouluttavat tekoälyään käyttämällä tiettyyn tarkoitukseen keräämäänsä dataa, mutta sitä käytetään usein myös muihin tarkoituksiin. ”Tämä tarkoittaa, että he eivät voi todistaa, että heillä on laillinen oikeus käyttää alkuperäistä dataa, jolla järjestelmää on opetettu”, Macauley kertoo. IO.
Piilotettu ongelma
Kun tekoälyä otetaan käyttöön terveydenhuollossa, usein unohdettu riski on se, mitä tapahtuu, kun data kulkee monimutkaisen kolmansien osapuolten, kuten vanhojen alustojen ja ulkoisten kumppaneiden, ketjun läpi.
”Vastuu laimenee jokaisella tiedonsiirrolla”, Semarchyn Gravina toteaa. ”Ei ole aina selvää, kuka omistaa datan kussakin vaiheessa, kuka on vastuussa sen laadusta tai kuka on vastuussa, kun jokin menee pieleen. Kun kenelläkään yksittäisellä osapuolella ei ole täydellistä, kokonaisvaltaista kuvaa datan elinkaaresta, hallinta pettää.”
Monimutkaisuutta lisää se, että perinteiset terveydenhuollon hallintokehykset suunniteltiin staattisille järjestelmille, joissa oli suhteellisen vakaat tietovirrat ja kiinteät säännöt. Esimerkiksi Cyber Essentials ja NHS:n tiedonhallintatoimivat vain jäykissä järjestelmissä. ”Tekoäly rikkoo näitä sääntöjä, koska se kehittyy jatkuvasti”, sanoo Liferayn Macauley.
Samaan aikaan standardi Tietosuojavaikutusten arviointi Kuten GDPR:ssä on esitetty, järjestelmää tarkastellaan vain kerran. Macauleyn mukaan tekoäly, joka oppii jatkuvasti, voi kuitenkin muuttaa toimintaansa ilman, että kukaan tarkistaa sen turvallisuutta tai laillisuutta.
Innovaatioiden pullonkaulat
Hallintoa koskevan luottamuksen puute heikentää tekoälyn edistymistä terveydenhuollossa lisäämällä innovaatiopullonkaulojen riskiä. Kun organisaatioilla ei ole luottamusta dataperustaan, tekoälyn käyttöönotto pysähtyy.
”Johtajat epäröivät ottaa tekoälyä käyttöön kliinisissä ympäristöissä, jos he eivät pysty taata datan laatua ja alkuperää tai osoittamaan auditoitavuutta sääntelyviranomaisille”, sanoo Semarchyn Gravina. ”Ironista kyllä, tekoälyn turvalliseen skaalaamiseen tarvittava hallintoinfrastruktuuri on sama, joka tarjoaa pitkittäisen potilasdatanäkymän, joka tekee tekoälystä alun perin tehokkaampaa.”
Hyvä hallintotapa on tehokkaan terveydenhuollon tekoälyn mahdollistaja, hän selittää. ”On tärkeää huomata, että datan altistaminen tekoälylle ei tarkoita sen ympärille rakennetun hallinnon arvon menettämistä – perintötietojen, käyttöoikeuksien hallinnan ja datan laadun tulisi kulkea datan mukana, eikä niitä tulisi jättää jälkeen, kun se siirtyy tekoälyn prosessiin.”
Kansainväliset standardit
Kaksi kansainvälistä standardia tarjoaa viitekehyksen tekoälyn hallinnalle. ISO 27001 tarjoaa perustan vahvalle tietoturvalle ja -hallinnolle ja auttaa luomaan jäsenneltyjä lähestymistapoja riskienhallintaan, pääsynhallintaan, tietoturvaloukkauksiin reagointiin, omaisuudenhallintaan ja vastuuvelvollisuuteen. Tämä auttaa rakentamaan "puolustettavampaa hallintoa", Gravina sanoo.
ISO 42001 pohjautuu tähän ottamalla käyttöön erityisesti tekoälyjärjestelmille suunnitellun hallinnon. Se keskittyy valvontaan, tekoälyyn liittyvään riskienhallintaan, läpinäkyvyyteen sekä tekoälyn vastuulliseen kehittämiseen ja käyttöön.
Yhdessä nämä standardit mahdollistavat terveydenhuollon organisaatioille "siirtymisen tekoälyn ad hoc -käyttöönotosta kohti jäsennellympää hallintomallia", Gravina selittää.
On selvää, että tekoälyllä on valtava potentiaali terveydenhuollossa, jos hallintorakenteet voidaan mukauttaa tähän innovatiiviseen uuteen aikakauteen.
Asiantuntijoiden mukaan potilaan luottamuksen tulisi olla kaiken perusta. Lohyd Terrier, organisaatiokäyttäytymisen apulaisprofessori EHL Hospitality Business Schoolissa, kannattaa tekoälyn käsittelyä eksplisiittisenä palveluna potilaalle. ”Sen tulisi olla jäljitettävissä, selitettävissä ja hylättävissä – eikä näkymättömänä taustatoimintona.”
Lähtökohdan on oltava itse data. Johtajien on ymmärrettävä, onko heidän organisaatiollaan perusta rakentaa ”yhtenäinen, pitkittäisnäkymä potilasdatasta kaikissa järjestelmissä ja palveluntarjoajilla”, sanoo Semarchyn Gravina. ”Ilman sitä tekoälyn hallinta rakennetaan hiekalle.”
Hän suosittelee tekoälyn jo käytössä olevien alueiden kartoittamista, kriittisten tietovirtojen ja kolmansien osapuolten riippuvuuksien tunnistamista, omistajuuden ja hallinnoinnin selkeyttämistä sekä käyttöoikeuksien hallinnan, tarkastusketjujen ja datan laadun vahvistamista kokonaisvaltaisesti. ”Yksityisyyden, turvallisuuden ja tekoälyn hallinnan on oltava yhtenäistä eikä niitä ole hallittava erikseen.”
Laajenna tietosi
Blogi: DXS Internationalin tietomurto: terveydenhuollolle opitut asiat
Blogi: Tietoturvallisuuden tilaraportti: 11 keskeistä tilastoa ja trendiä terveydenhuoltoalalla
Webseminaari: ISO 42001 käytännössä: Oppitunteja yhdestä maailman ensimmäisistä ISO 42001 -sertifioinneista









