Zelfrijdende auto zonder geweten

Een paar weken geleden raakte een zelfrijdende auto van Uber een voetganger, die daarbij om het leven kwam. Dit was zeker niet het eerste incident, al eerder kwam een Tesla chauffeur om tijdens een crash met een zelfrijdende auto. De autofabrikanten krijgen veel kritiek de verduren, het roept vragen op over de veiligheid, maar ook over de wettelijke aansprakelijkheid. Zo stak de voetganger in het recentste ongeval de weg over zonder het zebrapad daarvoor te gebruiken. "Uit het niks verscheen ze op de weg" aldus de mensen van Uber en dat geeft problemen blijkbaar voor de software. Een zelfrijdende auto houdt zich altijd netjes aan de verkeersregels, maar kan deze ook net zo goed anticiperen op de wispelturigheid van andere verkeersdeelnemers als een menselijke bestuuder? En wat als de auto tijdens het uitwijken het leven van de voetganger had gered, maar de bestuurder om het leven was gekomen? Waarvoor kiest de auto dan?

HOGE VERWACHTINGEN

Statistisch gezien maken zelfrijdende auto’s per gereden kilometers minder ongelukken dan menselijke bestuurders. Maar, legt Marieke Martens in de NRC uit, we zijn vergevingsgezinder tegenover mensen dan tegenover machines. “Van menselijke chauffeurs verwachten we ook niet dat ze tijdens het examen kunnen rijden in de sneeuw of remmen onder extreme omstandigheden. Het is interessant dat we aan een ‘zelfrijdende auto’ opeens wel zulke eisen stellen”, zegt ze.

MOBIEL MET MORAAL

Cognitiewetenschapper dr. ir. Jan Broersen wijst op het feit dat we als mens ons gedrag ook kunnen verexcuseren, waardoor we vergeven worden voor onze daden. Tijdens het Filosofisch Café ‘Mobiel met moraal’ praatte hij over het belang van moraal in het verkeer. Wanneer er in een splitseconde gehandeld moet worden, maar in alle gevallen iemand om het leven komt, waarvoor kiest de auto dan? Het is belangrijk om na te denken over de manieren waarop zelfrijdende auto’s beslissingen moeten gaan maken. Een set regels zouden kunnen bepalen wat moreel juist of onjuist is in het handelen van de auto. Er kunnen regels geformuleerd worden als: geef voorrang aan kinderen of spaar levens. Deze kunnen verschillen in zwaarte. Levens sparen krijgt bijvoorbeeld een gewicht van 4, en levens sparen van kinderen een gewicht van 5, omdat dat nóg belangrijker is. 

Mercedes heeft volgens Broersen verklaard de veiligheid van de bestuurder prioriteit te geven. Google heeft aangegeven hun auto's zo te programmeren dat ze voorzichtiger rijden wanneer zij kinderen in de buurt detecteren. Maar het blijft onduidelijk hoe autofabrikanten hun zelfsturende auto's precies programmeren en wat voor beslissingssystemen ze de auto meegeven. We moeten ons afvragen bij wie we de verantwoordelijkheid gaan leggen voor de afwegingen die zelfsturende auto's maken. 

Elke week wordt een opvallend bericht uit de actualiteit gekoppeld aan een opname uit het archief van Studium Generale - Podium voor kennis & reflectie van de Universiteit Utrecht.