4 videointerviews met een casestudy over algoritmische besluitvorming

Met video's over casestudy's bij het CJIB, zelfrijdende auto's, de rechtspraak en content moderatie, bespreken onderzoekers van het Montaigne Centrum van de Universiteit Utrecht algoritmische besluitvorming. Met name de juridische aspecten van algoritmen die besluiten nemen, waarin de publieke waarden en belangen centraal staan. 

In opdracht van het WODC en op verzoek van het Ministerie van Justitie en Veiligheid heeft het Montaigne Centrum een verkennend onderzoek gedaan naar de juridische aspecten van algoritmen die besluiten nemen. Het WODC vroeg het Montaigne Centrum onderzoek te doen naar de gevolgen van algoritmische besluitvorming voor de verwezenlijking van publieke waarden en belangen en de rol die het recht daarin speelt.

Stefan Kulk, universitair hoofddocent bij Rechtsgeleerdheid en één van de auteurs van het onderzoek, interviewt in vier video's verschillende collega onderzoekers. 

Casestudy 'Overheidsincasso bij verkeersboetes'

In deze video spreekt Stefan Kulk met Martje Boekema, universitair docent bij de Afdeling Staats- en Bestuursrecht en Rechtstheorie, over de casestudy die ze met Susanne Heeger verrichtte naar de inzet van een algoritme in het kader van de pilot Telefonisch Innen. In het gesprek komen onder andere het doel en de werking van het algoritme aan bod, worden de kansen én de risico's van dit algoritme besproken, en wordt stilgestaan bij de grenzen die het recht stelt aan het gebruik van het algoritme.

Casestudy 'De rechtspraak'

In deze video spreekt Stefan Kulk met Stijn van Deursen (promovendus Universiteit Utrecht) en Stefan Philipsen (universitair docent Universiteit Utrecht). Tijdens het gesprek wordt onder andere de huidige én mogelijke toekomstige inzet van algoritmes in de rechtspraak besproken. "Als we kijken naar algoritmen die nu gebruikt worden dan zitten die meestal op het organisatorische niveau om bijvoorbeeld zaakstromen beter te organiseren en toe te wijzen”, vertelt Philipsen. De onderzoekers staan ook stil bij de risico’s van de mogelijke inzet van algoritmen in de rechtspraak. Volgens van Deursen is het belangrijk “om goed in het oog te houden hoe zo’n systeem mogelijk invloed kan hebben op de onafhankelijkheid en autonomie van de rechter. Ook is het belangrijk om voldoende kennis en inzicht in de werking van de systemen. Technologie is namelijk iets wat wij kunnen vormgeven.”

Casestudy 'Zelfrijdende auto's'

 In deze video spreekt Stefan Kulk met Vicky Breemen universitair docent aan de Universiteit Utrecht en Anouk Wouters, promovendus Universiteit Utrecht. Tijdens het gesprek wordt onder andere de doelen en de werking van algoritmen in zelfrijdende auto’s besproken. "Algoritmen worden ook wel de drijvende kracht achter de ontwikkeling van zelfstandigere auto's genoemd.” vertelt Wouters aan het begin van het gesprek. Ook de kansen én de risico’s van de inzet van algoritmen komen aan bod. In deze video staan Vicky Breemen en Anouk Wouters ook stil bij hoe de balans kan worden gevonden tussen de kansen en de risico’s en welke rol daarbij is weggelegd voor het recht. "Het gaat niet alleen om een passend rechtskader maar juist ook om het samenspel tussen regulering en technologie en daarbij denk ik ook aan privacy by design", vertelt Breemen.

Casestudy ‘Contentmoderatie door online platformen’

In deze video spreken Stefan Kulk (universitair hoofddocent Universiteit Utrecht) en Thom Snijders (student-assistent en student van de Legal Research Master van de Universiteit Utrecht) met elkaar. In deze casestudy ligt de focus op haatzaaiende inhoud en hoe algoritmen worden gebruikt om die inhoud op te sporen en de verspreiding ervan te stoppen. Er wordt kort uitgelegd hoe de algoritmen werken, waarna de kansen en de risico’s worden besproken. “De kansen van algoritmen zijn vooral gelegen in het creëren van een online omgeving waar mensen zich vrij voelen om zich te uiten, wat in het kader van vrijheid van meningsuiting belangrijk is” vertelt Kulk. Risico’s zijn er ook: “Discriminatie kan optreden als menselijke vooroordelen in modereeralgoritmen worden gereproduceerd”, vertelt Snijders.

Download dit onderzoek

Minister Dekker van Rechstbescherming heeft het rapport "Juridische aspecten van algoritmen die besluiten nemen. Een verkennend onderzoek" in juni 2020 aangeboden aan de Tweede Kamer.