Kunstig intelligens og helse - hvordan blir fremtiden innenfor helsevesenet?

Tekst av Merete Lan Olsen
Illustrasjon: Birgitte Blandhoel, fra rapporten til Teknologirådet

Det er vanskelig å forutsi hva fremtiden bringer. Likevel er det viktig at vi forbereder på hvordan fremtiden vil kunne bli, både for å kunne arbeide mot ønskede mål og for å unngå uønskede utviklinger. Kunstig intelligens i helsevesenet kan gi bedre og raskere diagnoser, og oppfølging av sykdom kan bli mer personlig. Men hvor mye makt skal vi gi til maskinene?
I tillegg vil Norge om noen tiår trenge dobbelt så mange helsearbeidere dersom vi ikke organiseres annerledes. Særlig med tanke på at den gjennomsnittlige levealderen går opp og at stadig flere vil leve med kroniske sykdommer, så er det viktig at vi tenker nytt om helsevesenet for å klare og håndtere de nye utfordringene. Teknologirådet publiserer snart rapporten for prosjektet “Kunstig intelligens kommer til klinikken”. Senior prosjektleder i Teknologirådet, Anne Siri Koksrud Bekkelund, har i dette intervjuet utgreid noen av de viktigste punktene fra rapporten.

Hva er teknologirådet og hvordan arbeider dere?
— Teknologirådet er et offentlig, uavhengig råd som gir råd til Stortinget og øvrige myndigheter, i tillegg til å delta i den offentlige samtalen. Målet vårt er å være Stortingets radar for ny teknologi, og å skape bedre debatter om muligheter og utfordringer som følger med. Selve rådet består av 15 personer som er utpekt av regjeringen. De er eksperter fra akademia, næringsliv og samfunnsliv, eller andre ressurspersoner. Teknologirådet beslutter selv hva det skal gjøre. Vi i sekretariatet leder og gjennomfører prosjektene. Vi jobber med alle typer teknologi, men er for tiden særlig engasjert i teknologi innen områdene klima, transport og helse. I tillegg følger vi med på hvordan teknologien påvirker selve demokratiet vårt. Kunstig intelligens, KI, er høyaktuelt på alle disse områdene.

På hvilke områder kan kunstig intelligens brukes i helsevesenet?
— Man kan generelt dele kunstig intelligens i helsevesenet inn i fire områder hvor det kan bli tatt i bruk:
1. Administrasjon: alt av effektivisering og automatisering av administrasjon, som i alle andre bransjer.
2. Medisinsk forskning: et veldig spennende område. Blant annet er det  utrolig krevende å lete gjennom alle muligheter for vaksiner eller legemidler, noe pandemien har vist tydelig. Kunstig intelligens kan bidra til at man finner “nåla i høystakken” mye raskere.
3. Klinisk behandling: praktisk bruk i diagnose og behandling. De første systemene som stiller diagnose helt på egenhånd ved bruk av KI, er godkjent til bruk.
4. Forebyggende helse: handler om å finne ut hvilke tiltak som virker for hvem. Her kan kunstig intelligens etter hvert treffe bedre enn tradisjonelle metoder, fordi den kan ta hensyn til mye mer informasjon.

Hvordan brukes dette i dag og hva kan vi forvente i fremtiden?
— Vi har såvidt begynt å bruke denne typen teknologi i dag, dette er helt i startfasen. Det finnes noen typer diagnoseverktøy og andre systemer som skal støtte legene, og en del systemer i medisinsk forskning, men her kan vi forvente en stor utvikling fremover.

Hvordan kan vi få til en bedre ressursbruk i helsevesenet ved hjelp av kunstig intelligens?
— Vi har sett på noen trender for KI i klinikken som kan forbedre helsevesenet vesentlig. Det er ikke sikkert alle disse slår til, men vi tror helt klart dette er mulig i løpet av en tiårsperiode:

• Diagnose og behandling smelter sammen, fordi kunstig intelligens kan gjøre det mulig å stille diagnoser raskere og mer treffsikkert. Et eksempel er et KI-system som vurderer om en kreftsvulst er god- eller ondartet i løpet av minutter, slik at pasienten kan gå rett fra diagnose til operasjon.

• Helsepersonell får digitale assistenter. Tenk deg en chatbot som legen kan spørre om råd underveis i en konsultasjon. Den kan lete i all verdens medisinske litteratur eller tusenvis av pasientjournaler, og finne frem den mest relevante informasjonen for akkurat den pasienten legen har foran seg. Andre digitale assistenter kan overvåke alle pasientene på en avdeling, og utløse en alarm hvis noen trenger tilsyn.

• Pasientene kan overvåke sin egen helse, ved hjelp av sensorer koblet til kunstig intelligens. Pasienten kan få beskjed om å oppsøke helsehjelp dersom systemet oppdager noe mistenkelig.

• Persontilpasset medisin: I dag er det kun noen få faktorer som tas høyde for når legen skriver ut en resept til en pasient. Med kunstig intelligens vil systemet kunne ta høyde for all informasjonen om den enkelte pasient, for å finne ut hvilken medisin eller behandling som vil ha best effekt akkurat for denne pasienten.

• Førstelinjen i helsevesenet kan bli digital, og avlaste fastleger, legevakter og andre. For pasienten kan det bety at de i noen tilfeller kan sendes rett til spesialist, for eksempel etter at de har svart på spørsmål om symptomene sine, eller sendt et bilde eller en måling av hjerterytmen. 

• Forebygging kan gjøres langt mer effektiv, ved at kunstig intelligens velger ut hvilke grupper og enkeltpersoner som vil kunne ha nytte av ulike tiltak.

Dette høres selvsagt veldig positivt ut. Men bruk av KI kommer ikke uten utfordringer. Det er blant annet fare for at systemene diskriminerer noen grupper, fordi de er trent opp på historisk skjeve data. Eller de kan øke ulikhetene, ved at allerede privilegerte grupper får tilgang til enda bedre oppfølging. For eksempel vil de som allerede er rike og ressurssterke ha høyere sannsynlighet for å kunne ta i bruk avanserte sensorer. I tillegg forutsetter de at man får tilgang til veldig mye informasjon om veldig mange pasienter, noe som kan gå ut over personvern og pasientenes rett til selvbestemmelse.

Hvordan kan vi etisk sett bruke kunstig intelligens i helsetjenesten fornuftig med tanke på at det ikke alltid er lett å vite hva som ligger bak en maskinell vurdering?
— Dette er en stor utfordring. Vi kaller det gjerne “sort boks”-problemet. Man mater inn data om en pasient, og ut kommer et svar eller en anbefaling. Men algoritmen inne i den “sorte boksen” kan være så avansert at selv de som har utviklet den ikke klarer å forstå hvordan beslutningen ble tatt. Og maskinene er generelt dårlige til å forklare hvordan de har tenkt, i hvert fall på en måte som gir mening for mennesker. Så hvem er det egentlig som har ansvaret hvis noe går galt? Og hvordan skal helsepersonell vite når de skal overprøve maskinens anbefaling?

Det er ikke noe enkelt svar på denne utfordringen. Derfor må man evaluere hver enkelt løsning man ønsker å innføre svært grundig, og over tid, for å se at den faktisk gir gode resultater. Samtidig skal man huske at heller ikke mennesker er perfekte, de gjør også feil. Og heller ikke de kan alltid forklare akkurat hvordan de kom frem til et svar. 

Det finnes måter å bøte på problemet: For eksempel finnes tekniske muligheter for å få systemene til å forklare for eksempel hvilke faktorer som er de viktigste i beslutningen. En annen del av løsningen kan være å kreve mer åpenhet, både om hvordan algoritmene faktisk er bygget opp, og om hvilke data systemene trenes opp på. På denne måten kan vi øke tilliten til hvordan de fungerer. 

Og så må vi huske at det ikke er alltid vi trenger å forstå i detalj hvordan noe virker, for å kunne stole på det. For eksempel er det jo slik at jeg kan kjøre bilen min uten å forstå hvordan den elektriske motoren eller GPSen fungerer —blant annet fordi jeg vet at det utføres grundig kvalitetskontroll, og fordi jeg har lært meg over tid at det er til å stole på. Men jo mer kritisk et system er, desto mer nødvendig er det at kvalitetskontrollen er høy.

Så i hvilke tilfeller er det at maskin kan erstatte mennesker?
Vi er svært langt unna en situasjon der maskinene generelt kan erstatte menneskene i helsevesenet. Det vi ser begynnelsen på, er at enkelte typer behandlinger kan utføres av en maskin i noen bestemte situasjoner. For eksempel finnes chatboter for psykisk helse som kan utføre noen bestemte typer behandling, og dermed under en del forutsetninger kan gi like gode resultater som behandling hos psykiater eller psykolog. Men som regel snakker vi om systemer som skal gi støtte til helsepersonell, eller avlaste dem for de kjedelige rutineoppgavene. I radiologi håper man for eksempel at maskiner kan gjøre en grovsortering, og luke ut tilfellene som har svært lav sannsynlighet for funn. Med andre ord kan menneske og maskin arbeide i symbiose med hverandre, og gi helsepersonell bedre tid til å jobbe med de viktige oppgavene.

Hvordan skal personvernet og informasjonssikkerheten ivaretas?
Dette er nok en grunnleggende utfordring. Det er jo helsedata om ekte pasienter som gjør det mulig å utvikle kunstig intelligens,  og jo mer data, jo bedre. Som regel gir det best resultater når dataene er brutt ned til hver enkelt person. 

Men det er mulig å ivareta  personvernet og informasjonssikkerheten uten at vi tar vekk muligheten for å utvikle kunstig intelligens. Først og fremst kan dette gjøres ved at reglene rundt er strenge og treffsikre, og at du må stille veldig strenge krav til både forskningen og løsningene du tar i bruk. Det må være klare insentiver til  å lage trygge systemer. Problemet i dag er at det er litt uklarheter i regelverket og at det tolkes ulikt flere steder i landet. Det bør selvsagt være like regler overalt. . 

Men det finnes også  tekniske løsninger som styrker personvernet. Et eksempel er det vi kaller distribuert læring. Litt enkelt sagt så flytter man ikke persondata ut av institusjonen der de er lagret. I stedet er det den lærende algoritmen som flyttes rundt, og blir litt bedre for hvert sykehus eller legekontor den “besøker". Den tar ikke med seg noen data om pasientene videre, den tar kun med seg det den har lært.

Det pågår også spennende prosjekter hvor man rett og slett lager det som kalles syntetiske data, altså at man basert på data fra de ekte pasientene lager pasientdata som ligner nok til at de kan brukes i videre forskning, men som er umulig å spore tilbake til enkeltmennesker.

Burde kunnskap om kunstig intelligens inkluderes mer i medisinstudiet?
Ja, absolutt, både i medisinstudiet og i andre helseutdanninger. Spesielt er det viktig å lære seg å stille de rette spørsmålene i møte med kunstig intelligens. For eksempel: Når skal man høre på systemene, og når skal man ikke? Man bør bli god på å reflekterer over dette. Jeg har ingen bestemt løsning for akkurat  hvordan dette bør gjøres, men det bør  absolutt inkluderes i utdanningene. Alle fremtidige leger burde vite noe om styrkene og svakhetene ved bruk av kunstig intelligens, og ha en grunnleggende forståelse for hvordan det fungerer, når man treffer på det ute i praksis. For det kommer absolutt til å bli brukt i helsevesenet fremover! Det trengs også kunnskap om hvordan man kan ta løsningene fra teknologiske laboratorier og inn i en praktisk hverdag i helsetjenesten.

Hva kan medisinstudenter gjøre for å henge med i denne utviklingen?
Det finnes mange ressurser, så det er gode muligheter for å lese seg opp om kunstig intelligens. Blant annet finnes det nå dedikerte, seriøse medisinske tidsskrifter om kunstig intelligens i helse. Ellers kan man oppsøke de miljøene som finnes i Norge på e-helse generelt, og kunstig intelligens i helse spesielt. Det arrangeres en rekke konferanser som er åpne for alle. Det er mange muligheter for medisinstudenter til å få grunnleggende kompetanse om dette. 

Og så skal vi huske at det  er ikke mer enn 9-10 år siden maskinlæring hadde noen av sine store gjennombrudd. Utviklingen går fort. Da jeg studerte datateknologi i 2006, var det ikke mye om dette i studiet. I dag er det ikke til å komme unna. Men som medisinstudent må man nok fremdeles gjøre en egeninnsats om man vil bli godt kjent med mulighetene og utfordringene ved kunstig intelligens. Men jeg er helt sikker på at det vil være verdt det, for kunstig intelligens er kommet for å bli.