Juridische aspecten van algoritmen die besluiten nemen (2020)
Een verkennen onderzoek – Met casestudy’s naar contentmoderatie door online platformen, zelfrijdende auto’s de rechtspraak en overheidsincasso bij verkeersboetes.
De inzet van algoritmen kan kansen opleveren voor het verwezenlijken van publieke waarden en belangen. Zo kunnen algoritmen besluitvormingsprocessen efficiënter maken en bijdragen aan het vinden van oplossingen voor verschillende soorten maatschappelijke uitdagingen. Tegelijkertijd kan de inzet van algoritmen risico’s met zich brengen en vragen oproepen over de bestendigheid van de juridische kaders die beschikbaar zijn om publieke waarden en belangen te beschermen. De onderzoeksvraag van dit onderzoek is in dit verband als volgt gedefinieerd: Welke kansen en risico’s doen zich voor bij algoritmische besluitvorming met betrekking tot de bescherming en realisering van publieke waarden en belangen, en zijn de bestaande juridische kaders voldoende bestendig om kansen te verwezenlijken en het intreden van geïdentificeerde risico’s te voorkomen of de gevolgen daarvan te mitigeren?
Onderzoekers van het Montaigne Centrum voor Rechtsstaat en Rechtspleging:
Stefan Kulk, Stijn van Deursen, Vicky Breemen, Anouk Wouters, Stefan Philipsen, Martje Boekema
Janneke Gerards, Eddy Bauw, Madeleine de Cock Buning, Nelleke Koffeman
Onderzoek in opdracht van het WODC.
Zie ook:
4 video's met een casestudy uit dit rapport
Stefan Kulk, één van de auteurs van het onderzoek, interviewt in vier video's verschillende collega onderzoekers.
Casestudy 'Overheidsincasso bij verkeersboetes'
In deze video spreekt Stefan Kulk met Martje Boekema, universitair docent bij de Afdeling Staats- en Bestuursrecht en Rechtstheorie, over de casestudy die ze met Susanne Heeger verrichtte naar de inzet van een algoritme in het kader van de pilot Telefonisch Innen. In het gesprek komen onder andere het doel en de werking van het algoritme aan bod, worden de kansen én de risico's van dit algoritme besproken, en wordt stilgestaan bij de grenzen die het recht stelt aan het gebruik van het algoritme.
Casestudy 'De rechtspraak'
In deze video spreekt Stefan Kulk met Stijn van Deursen (promovendus Universiteit Utrecht) en Stefan Philipsen (universitair docent Universiteit Utrecht). Tijdens het gesprek wordt onder andere de huidige én mogelijke toekomstige inzet van algoritmes in de rechtspraak besproken. "Als we kijken naar algoritmen die nu gebruikt worden dan zitten die meestal op het organisatorische niveau om bijvoorbeeld zaakstromen beter te organiseren en toe te wijzen”, vertelt Philipsen. De onderzoekers staan ook stil bij de risico’s van de mogelijke inzet van algoritmen in de rechtspraak. Volgens van Deursen is het belangrijk “om goed in het oog te houden hoe zo’n systeem mogelijk invloed kan hebben op de onafhankelijkheid en autonomie van de rechter. Ook is het belangrijk om voldoende kennis en inzicht in de werking van de systemen. Technologie is namelijk iets wat wij kunnen vormgeven.”
Casestudy 'Zelfrijdende auto's'
In deze video spreekt Stefan Kulk met Vicky Breemen universitair docent aan de Universiteit Utrecht en Anouk Wouters, promovendus Universiteit Utrecht. Tijdens het gesprek wordt onder andere de doelen en de werking van algoritmen in zelfrijdende auto’s besproken. "Algoritmen worden ook wel de drijvende kracht achter de ontwikkeling van zelfstandigere auto's genoemd.” vertelt Wouters aan het begin van het gesprek. Ook de kansen én de risico’s van de inzet van algoritmen komen aan bod. In deze video staan Vicky Breemen en Anouk Wouters ook stil bij hoe de balans kan worden gevonden tussen de kansen en de risico’s en welke rol daarbij is weggelegd voor het recht. "Het gaat niet alleen om een passend rechtskader maar juist ook om het samenspel tussen regulering en technologie en daarbij denk ik ook aan privacy by design", vertelt Breemen.
Casestudy ‘Contentmoderatie door online platformen’
In deze video spreken Stefan Kulk (universitair hoofddocent Universiteit Utrecht) en Thom Snijders (student-assistent en student van de Legal Research Master van de Universiteit Utrecht) met elkaar. In deze casestudy ligt de focus op haatzaaiende inhoud en hoe algoritmen worden gebruikt om die inhoud op te sporen en de verspreiding ervan te stoppen. Er wordt kort uitgelegd hoe de algoritmen werken, waarna de kansen en de risico’s worden besproken. “De kansen van algoritmen zijn vooral gelegen in het creëren van een online omgeving waar mensen zich vrij voelen om zich te uiten, wat in het kader van vrijheid van meningsuiting belangrijk is” vertelt Kulk. Risico’s zijn er ook: “Discriminatie kan optreden als menselijke vooroordelen in modereeralgoritmen worden gereproduceerd”, vertelt Snijders.