Christian Schilling

Projekttitel

Cosyne: Safe Control Systems with Neural Networks

Hvad handler dit projekt om?

Kontrolsystemer er allestedsnærværende i vores daglige liv. Fx. installeres damme over hele landet for at give en regelmæssig vandforsyning hele året med svingende vejr og efterspørgsel, samtidig med at man undgår oversvømmelser. Vandet i Danmark styres statisk baseret på menneskeskabte kontrolsystemer. Selvom de er robuste, gør kontrolsystemerne pga. deres statiske beskaffenhed ikke brug af alle de data, vi har til rådighed i dag. I de senere år har kunstig intelligens gjort enorme fremskridt med introduktionen af neurale netværk, som overgår menneskers forudsigelser baseret på store mængder data. Neurale netværk er dog store sorte bokse, man ikke kan ræsonnere om som traditionelle kontrolsystemer. Mit projekt danner grundlag for automatisk analyse og certificering af neurale netværk, så vi kan stole på denne nye generation af intelligente kontrolsystemer, når de anvendes i kritiske applikationer.

Hvordan opstod din interesse for dit forskningsfelt?

Neurale netværk er uden tvivl det mest spændende emne inden for datalogi i dag. På den ene side er det en banebrydende teknologi og allerede stærkt brugt i mange discipliner. På den anden side udgør neurale netværk også en stor udfordring for datalogi, fordi vi ikke fuldt ud forstår deres begrænsninger og tøver med at anvende dem i applikationer, hvor sikkerhed er kritisk. I mit arbejde nyder jeg generelt at udvikle algoritmer til at analysere komplekse systemer. I mit projekt får jeg rig lejlighed til at gøre dette og samtidigt gå ind i nye områder for at udfordre mig selv. Det store potentiale for praktisk anvendelse af mit projekt om at udnytte neurale netværk i sikkerhedskritiske applikationer er en ekstra motivation for mig.

Hvad er de forskningsmæssige udfordringer og perspektiver ved dit projekt?

Neurale netværk er ikke designet af mennesker, men lært af data, og selvom de ofte udviser imponerende ydeevne, kan de i sagens natur også lave fejl. I nogle applikationer kan disse fejl være kritiske. En stor udfordring er faktisk at skelne mellem korrekt adfærd og fejl i komplekse, virkelige systemer - verden er ikke sort og hvid! Dette gør det meget svært at ræsonnere om neurale netværk - lidt som mennesker. Men i forbindelse med kontrolsystemer har vi formelle specifikationer for den tilsigtede adfærd. Mit projekt udnytter dette faktum og udvikler teknikker til algoritmisk analyse af neurale netværkscontrollere.

Hvilke perspektiver vurderer du selv, at din forskning på sigt kan have for det omgivende samfund?

Neurale netværk er ikke designet af mennesker, men lært af data, og selvom de ofte udviser imponerende ydeevne, kan de i sagens natur også lave fejl. I nogle applikationer kan disse fejl være kritiske. En stor udfordring er faktisk at skelne mellem korrekt adfærd og fejl i komplekse, virkelige systemer - verden er ikke sort og hvid! Dette gør det meget svært at ræsonnere om neurale netværk - lidt som mennesker. Men i forbindelse med kontrolsystemer har vi formelle specifikationer for den tilsigtede adfærd. Mit projekt udnytter dette faktum og udvikler teknikker til algoritmisk analyse af neurale netværkscontrollere.

Hvad vil det betyde for din forskerkarriere, at du indgår i Sapere Aude-programmet?

Den prestigefyldte Sapere Aude: DFF Forskningsleder-bevilling giver mig mulighed for at etablere en stærk og internationalt anerkendt forskningsgruppe, fokusere mit arbejde på en udfordrende og spændende problemstilling og konsolidere min forskningsdagsorden. Med midlerne fra denne bevilling vil jeg være i stand til at studere problemet i dybden og fra forskellige vinkler. Samtidig vil jeg have tilstrækkelig fleksibilitet til at reagere på indsigter, jeg håber at opnå. Denne Sapere Aude-bevilling vil således være en hjørnesten i opbygningen af en succesfuld karriere som forskningsleder.

Lidt om mennesket bag forskeren

I min fritid kan jeg godt lide at programmere. I mit arbejde udvikler jeg et open source-bibliotek (JuliaReach); nogle gange efter arbejde tilføjer jeg nogle "livskvalitetsfunktioner", som jeg ikke har tid til at tilføje som en del af min arbejdstid. Der er nu en hel del brugere af dette bibliotek, og jeg kan godt lide at interagere med dem. På den fysiske side cykler jeg til arbejde hver dag, hvilket hjælper med at holde mig sund.