För bara några år sedan lät AI i vården som något ur en framtidsfilm. Nu används tekniken redan för att tolka bilder, sortera information och avlasta personal från en del administration. Det kan vara en stor hjälp. Men vård är inte vilken verksamhet som helst. När ett system påverkar människors hälsa måste varje genväg vägas mot säkerhet, integritet och ansvar.
Vad betyder AI i vården?
AI är ett samlingsnamn för datorsystem som hittar mönster, gör prognoser eller skapar innehåll. I vården kan ett system exempelvis markera misstänkta förändringar i en röntgenbild, sammanfatta stora textmängder eller hjälpa en verksamhet att planera resurser. Verktyget kan ge stöd, men det ersätter inte automatiskt läkarens kliniska bedömning.
Tre tydliga möjligheter
Den första möjligheten är snabbare analys. När ett AI-system används för en tydligt avgränsad uppgift kan det sortera stora datamängder och lyfta fram sådant som behöver granskas närmare.
Den andra är bättre tillgänglighet. Digitala verktyg kan ge vårdpersonal stöd på platser där specialistkompetens är begränsad. Den tredje är mindre administration. Om dokumentation och rutinuppgifter förenklas kan mer tid frigöras för patientkontakt.
Riskerna får inte underskattas
Ett välformulerat AI-svar kan fortfarande vara fel. Generativa modeller kan blanda ihop fakta eller presentera osäkra uppgifter med stor självsäkerhet. Träningsdata kan dessutom vara skev och göra att systemet fungerar bättre för vissa grupper än för andra. Hälsodata är känsliga personuppgifter, vilket gör integritet, informationssäkerhet och tydliga regler centrala.
Människan måste behålla kontrollen
Världshälsoorganisationen betonar bland annat mänsklig autonomi, säkerhet, transparens, ansvar och jämlikhet. I praktiken betyder det att en patient ska kunna förstå när AI används, att vårdpersonal ska kunna ifrågasätta systemets slutsats och att det måste vara tydligt vem som ansvarar för beslutet.
Frågor att ställa innan ett AI-system används
Vad är systemet avsett att göra? Vilka data har det testats på? Hur ofta ger det felaktiga resultat? Kan en människa granska och ändra rekommendationen? Hur skyddas patientuppgifterna? Ett ansvarsfullt införande börjar med sådana frågor, inte med teknikens mest imponerande demonstration.
Slutsats
AI kommer sannolikt inte att ersätta mötet mellan patient och vårdpersonal. Däremot kan den förändra vad som händer före, under och efter mötet. Det klokaste är därför varken att säga ja till allt eller att stänga dörren helt. Börja med tydliga problem, testa försiktigt och låt alltid en ansvarig människa ha sista ordet.
Källor: WHO, Artificial Intelligence for Health; WHO, Ethics and governance of artificial intelligence for health.