Hvordan sikrer vi, at etik og kunstig intelligens går hånd i hånd i sundhedsvæsenet?

Kunstig intelligens er allerede en del af hverdagen inden for sundhedsvæsenet, hvor den kan aflaste sundhedspersonale og være med til at forbedre diagnostik og behandling. De teknologiske fremskridt giver dog også nogle etiske udfordringer.

Derfor er det vigtig at forberede sig grundigt, inden kunstig intelligens, ofte omtalt som AI, tages i brug. Et nyt forskningsprojekt skal undersøge, hvordan kunstig intelligens påvirker sundhedsfaglig praksis, og her er der særligt fokus på etikken.

»Samfundet får gavn af forskningen, fordi projektet giver viden om, hvordan vi kan fremme etisk ansvarlig udvikling og anvendelse af kunstig intelligens i det danske sundhedsvæsen,« siger leder af projektet Anne Gerdes, som er professor på Institut for Design, Medier og Uddannelsesvidenskab ved Syddansk Universitet (SDU) og leder af Center for AI Etik.

Sætter patienter og sundhedspersonale i centrum

Forskningsprojektet består af tre sammenhængende dele. Den første del undersøger patienters værdier og perspektiver på kunstig intelligens. Den anden del ser på, hvordan sundhedsprofessionelles ansvar og faglige dømmekraft påvirkes, når kunstig intelligens er i spil. Den tredje del fokuserer på, hvordan AI-systemer kan udvikles etisk ansvarligt.

Patientperspektivet tager udgangspunkt i screeninger for brystkræft, der tilbydes til alle kvinder over 50 år.

Fra slutningen af 2025 bliver kunstig intelligens en fast del af screeningsprocessen i Region Syddanmark, hvor forskningsprojektet gennemføres. Tidligere skulle to billeddiagnostiske speciallæger gennemse screeningsbilleder, og fremover kommer AI til at være med i processen sammen med lægerne.

Forskningsprojektet vil undersøge, hvordan denne teknologiske udvikling opleves og forstås fra patienternes synsvinkel. 
Her vil en ph.d.-studerende afdække etiske problemstillinger og interviewe screenede kvinder om, hvorvidt de er bekymrede for at blive vurderet af kunstig intelligens eller ej.

»Patienternes stemmer skal inddrages. Deres perspektiver bidrager til, at AI udvikles og implementeres på en retfærdig og ansvarlig måde i sundhedsvæsenet« uddyber Anne Gerdes.

Men AI kan også have konsekvenser for sundhedsprofessionelles faglige dømmekraft.

»Hvis man nu outsourcer mange normale billeder til en AI-algoritme, kan det måske på sigt blive svært for radiologer at nå op på alle de billeder, de skal se for at vedligeholde deres kompetencer,« fortæller Anne Gerdes.

Derfor tager projektets anden del fat på, hvad AI betyder for sundhedsprofessionelle. Denne del af projektet kobles også til eksisterende forskningsprojekter, der udforsker potentialet i AI-teknologi til røntgendiagnostik på Odense Universitetshospital (OUH).

»AI kan forbedre arbejdsgange til gavn for patienter og personale. Men når AI kiles ind, skal ansvarsfordeling og faglig dømmekraft stadig være i højsædet,« fremhæver Anne Gerdes.

Ønsker at favne både AI-udviklere og klinikere

Tredje og sidste del af projektet bygger videre på resultaterne fra de foregående dele og har til formål at fremme udviklingen af værktøjer, der kan understøtte en ansvarlig udvikling af AI-systemer.

Her skal den ph.d.-studerende undersøge, hvordan man kan udvikle vejledninger og værktøjer, så de kan støtte tværfaglige team af klinikere og AI-udviklere i arbejdet med at udvikle AI-løsninger, der er fagligt robuste og etisk forsvarlige.

Der trækkes også på et AI-værktøj, der er udviklet under ledelse af læge og ph.d.-studerende Frederik Duedahl.

»Jeg håber, at vi kan skabe et godt indblik i de etiske problemstillinger, der er i forbindelse med kunstig intelligens inden for det danske sundhedsvæsen. Og at vi får viden om, hvordan vejledninger og værktøjer til proaktivt at udvikle etisk ansvarlig kunstig intelligens kan tilvirkes, så de støtter tværfaglige team mest muligt,« siger Anne Gerdes og fortsætter:

»For det er en af de store hurdler. Der findes en masse redskaber til ansvarlig udvikling af AI-systemer, men de skal tit bruges i tværfaglige team, hvor klinikere og dataloger har forskellig indsigt i feltet. Her er det en udfordring at få fælles fodslag«.

Så håbet er at forbedre de værktøjer, der findes til ansvarlig udvikling af AI-systemer, så de understøtter udviklingsarbejdet bedst muligt.

Projektgruppen består, ud over Anne Gerdes, af Benjamin Schnack Rasmussen, klinisk forskningsleder ved Centre for Clinical Artificial Intelligence under SDU samt læge og ph.d.-studerende Frederik Duedahl.