23 november 2013

Wat als het misgaat met zelf-besturende auto’s en andere autonome systemen?

Jan Broersen ontvangt 1,9 miljoen euro voor onderzoek naar de verantwoordelijkheid van intelligente systemen

Dr.ir. Jan Broersen van Informatica ontvangt van de European Research Council een Consolidator Grant van 1,9 miljoen euro voor zijn onderzoek naar de verantwoordelijkheid van intelligente systemen. De Consolidator Grant is een prestigieuze subsidie voor het ondersteunen van veelbelovende onderzoekers.

Kunstmatige intelligentie is zo succesvol, dat steeds complexere taken worden uitbesteed aan autonome, intelligente systemen, van handelen op de beurs tot het besturen van auto’s. Nóg complexere systemen zijn in aantocht, zoals drones die zelf kunnen beslissen om tot de aanval over te gaan. ‘Daarmee dragen wij steeds grotere verantwoordelijkheden over aan een systeem, maar wat als het misgaat?’, licht Broersen zijn onderzoek toe.

Botsing

Het systeem opereert autonoom, maar is niet verantwoordelijk. Het neemt beslissingen op grond van algoritmes waarmee het geprogrammeerd is en namens de mensen die het systeem gebruiken. Broersen: ‘Stel dat een zelfbesturende auto bij een inhaalmanoeuvre op een gevaarlijk punt op een tegenligger botst. In hoeverre is dan de ontwerper van de auto verantwoordelijk en in hoeverre de bestuurder? We hebben zelfs nog geen theoretisch kader om die vraag te kunnen beantwoorden.’

Prototype

Broersen begint dan ook met het ontwikkelen van zo’n kader, vanuit zowel juridisch als filosofisch perspectief. Vervolgens wil hij op basis van dit denkraam een formele voor een computer begrijpbare logische taal ontwikkelen waarmee gerekend kan worden aan concrete vragen. Uiteindelijk doel is een prototype van een computersysteem dat de risico’s, verantwoordelijkheden en aansprakelijkheden bij de inzet van intelligente systemen bepaalt.

Meer informatie

Monica van der Garde, persvoorlichter faculteit Bètawetenschappen,
06 13 66 14 38; m.vandergarde@uu.nl.