Rune Nyrup

Projekttitel

Towards Responsible Explainable AI Technologies (TREAT)

Hvad handler dit projekt om?

Mit projekt handler om den rolle, forklaringer spiller i forhold til at sikre, at kunstig intelligens anvendes på en etisk ansvarlig måde. Specifikt vil jeg undersøge fordele og ulemper ved det, der kaldes ”Forklarlig Kunstig Intelligens”, dvs. forskellige teknologier til at generere forklaringer på beslutninger, der træffes ved hjælp af kunstig intelligens. Sådanne forklaringer er vigtige for at gøre folk i stand til at forstå og derved forholde sig kritisk til de kunstigt intelligente systemer, der i stigende grad påvirker vores hverdag. Men de risikerer også at skabe en falsk følelse af forståelse, som kan udnyttes til at vildlede eller endog manipulere. For at løse dette dilemma vil projektet derfor udvikle både filosofiske teorier og praktiske retningslinjer for, hvordan man kan skelne mellem etisk gavnlige og etisk problematiske forklaringer.

Hvordan opstod din interesse for dit forskningsfelt?

Krydsfeltet mellem filosofi og ansvarlig kunstig intelligens kombinerer to ting, som i sin tid motiverede mig til at forfølge en forskerkarriere. På den ene side er jeg stærkt motiveret af, at min forskning kan gøre en konkret, positiv forskel i forhold til den rolle, videnskab og teknologi spiller i samfundet. Kunstig intelligens udvikler sig i disse år hurtigt. Det er derfor vigtigt, vi som samfund finder ud, hvordan vi kan sikre os, at teknologien udvikles og anvendes ansvarligt. Men for at sikre dette, bliver vi også nødt til at forholde os til mere principielle, filosofiske spørgsmål, såsom hvad forklaringer og forståelse overhovedet er, og hvorfor de har værdi. Det er denne spænding mellem de praktiske og de principielle filosofiske spørgsmål, der antændte min interesse i feltet.

Hvad er de forskningsmæssige udfordringer og perspektiver ved dit projekt?

Udfordringen bliver at formulere løsninger, der både er rettidige og langtidsholdbare. Teknologien bevæger sig hurtigt, så der er en risiko for, at de etiske kriterier, vi formulerer i dag, vil virke forældede i morgen. Det er til gengæld også der, perspektivet ligger. For kunstig intelligens skaber nye muligheder, som tvinger os til at genoverveje mange af de antagelser, som tidligere filosofiske teorier tog for givet. F.eks. skal vi nu forholde os til automatiske systemer, som kan generere meget overbevisende forklaringer, uden at det nødvendigvis afspejler nogen dybere forståelse, hvilket vi normalt ville antage for menneskelige eksperter. Det bliver spændende at udforske, hvilke nye etiske udfordringer og muligheder det skaber.

Hvilke perspektiver vurderer du selv, at din forskning på sigt kan have for det omgivende samfund?

Kunstig intelligens bliver i stigende grad anvendt af både private firmaer og offentlige institutioner. Det er derfor vigtigt, at de mennesker, der påvirkes, også har en reel mulighed for at forstå og evt. anfægte beslutninger truffet ved hjælp af kunstig intelligens. Mit projekt vil være med til at sikre, at de forklaringer, der genereres af Forklarlig Kunstig Intelligens, rent faktisk tjener dette formål. Mere bredt er ambitionen for min forskning at bidrage til, at vi som mennesker er i stand til at forstå og navigere i den stadig mere komplekse verden, den teknologiske udvikling skaber.

Hvad vil det betyde for din forskerkarriere, at du indgår i Sapere Aude-programmet?

Sapere Aude: DFF Forskningsleder-bevillingen giver en fantastisk mulighed for til at opbygge en forskningsgruppe og styrke mine netværk i det interdisciplinære krydsfelt mellem filosofi og ansvarlig kunstig intelligens. I modsætning til klicheen om filosoffen som en, der bare sidder for sig selv og tænker, opstår den mest interessante filosofiske forskning efter min mening i dialogen med kolleger og samarbejdspartnere fra andre videnskabelige discipliner. Nu får jeg muligheden for at ansætte talentfulde yngre forskere og lede et forskningsprojekt, der bygger bro mellem de filosofiske og de praktiske problemstillinger ved kunstig intelligens, hvilket jeg glæder mig rigtigt meget til.

Lidt om mennesket bag forskeren

Efter at have boet i mange år i det engelske, er min kone og jeg for nylig flyttet til Aarhus. Vi har også to små børn, som i weekenderne holder os travlt beskæftiget med at læse historier, se tegnefilm, bygge med Lego og tage på legepladsen. Når børnene er lagt i seng, slapper jeg gerne af med at spille Dungeons and Dragons online sammen med nogle af mine gamle kolleger, eller med at spille computerspil mens jeg lytter til podcasts om historie eller politik. Jeg drømmer også om at komme i gang med at spille musik igen, men vi skal lige have fundet et sted, hvor der er plads til klaveret.