Promotie Joris Graff: Kan kunstmatige intelligentie morele afwegingen maken?

Kunstmatige intelligentie (AI) neemt steeds vaker beslissingen in situaties waarin morele afwegingen een rol spelen. Bij de beoordeling van sollicitaties bijvoorbeeld, fraudedetectie en in de gezondheidszorg. Maar kúnnen AI-systemen wel morele afwegingen maken? Joris Graff onderzocht dit in zijn proefschrift ‘Decision-makers without Reasons: On the Moral and Normative Capacities of Artificial Agents’, dat hij op vrijdag 6 maart verdedigt.

Morele afwegingen

Volgens Graff is het nog maar de vraag of AI-systemen, zoals die nu ontwikkeld worden, in staat zijn om zorgvuldig waarden, normen en belangen tegen elkaar af te wegen en morele beslissingen te maken. 

Hij betoogt op basis van de filosofie van Ludwig Wittgenstein dat mensen morele keuzes kunnen maken omdat zij onderdeel zijn van een morele gemeenschap, waarin ze van elkaar leren en elkaar verantwoordelijk houden. AI-systemen zijn niet volledig deel van die morele gemeenschap. Dit betekent, zegt Graff, dat we voorzichtig moeten zijn met het uitbesteden van morele beslissingen aan AI.

Machine-ethiek

Toch kan AI nuttig zijn in situaties waarin morele keuzes een rol spelen, bijvoorbeeld omdat AI-systemen sneller informatie kunnen verwerken. In het vakgebied van de machine-ethiek denken wetenschappers daarom na over hoe AI-systemen ontwikkeld kunnen worden om menselijke morele afwegingen zo goed mogelijk na te bootsen.

Graff is werkzaam in de machine-ethiek en ontwikkelde een kader dat AI-systemen helpt om morele redenen af te wegen. Zijn kader is gebaseerd op vaste morele regels, maar welke regel wanneer het zwaarst weegt ligt niet vooraf vast. Deze afweging kan geleerd worden op basis van menselijke input.

AI en zelfstandigheid

In het laatste deel van zijn onderzoek onderstreept Graff hoe belangrijk het is dat algoritmes onze zelfstandigheid ondersteunen, en niet ondermijnen. AI-systemen zijn namelijk niet alleen moreel relevant wanneer ze zelf beslissingen maken, zegt hij, maar ook wanneer ze menselijke beslissingen beïnvloeden.

Idealiter zorgen algoritmes ervoor dat we zelfstandig beslissingen kunnen maken, gebaseerd op redenen waar we zelf achter staan. In de praktijk valt dit vaak tegen: veel algoritmes zijn niet transparant en beïnvloeden ons zonder dat we het doorhebben.