13 februari 2020

Algoritmisering en de sleutel tot het vertrouwen van de burger

Algoritmization and citizen trust

Overheidsorganisaties maken in toenemende mate gebruik van algoritmen om effectiever te worden. Algortimen voor predictive policing bijvoorbeeld voorspellen waar en wanneer criminele activiteiten zullen plaatsvinden. De 'magie' van deze nieuwe technologieën is echter niet zonder risico: het gebruik ervan kan leiden tot vooringenomenheid, discriminatie en oneerlijke behandeling. Een onderzoeksteam van de Universiteit Utrecht onder leiding van prof. dr. Albert Meijer zal onderzoeken in hoeverre gevoeligheid voor waarden als privacy, gelijke behandeling en transparantie van het gebruik van het algoritme het vertrouwen van burgers kan versterken. Het empirisch onderzoek richt zich op een overheidssector waar algoritmisering een grote impact heeft en waar het vertrouwen van de burger cruciaal voor is, namelijk de politie. Het gewenste eindproduct: een gevalideerd Organisatie Reflectietool voor Algoritmisering.

Waardegevoelige en transparante algoritmisering: de sleutel tot het vertrouwen van burgers?

Het onderzoeksproject ‘Value-Sensitive and Transparent Algoritmization: Key to Building Citizen Trust?’ heeft van NWO een bedrag van € 750.000,- ontvangen uit de Open Competitie voor Digitalisering SSH. Het project wordt geleid door prof. dr. Albert Meijer (departement Bestuurs- en Organisatiewetenschap, USBO). De overige teamleden zijn: prof. dr. José van Dijck, dr. Stephan Grimmelikhuijsen, dr. Mirko Schaefer en prof. dr. Floris Bex. Het is nauw verbonden met het onderzoeksfocusgebied Governing the Digital Society van de Universiteit Utrecht.

Het project speelt in op een dringende maatschappelijke behoefte om vormen van algoritmisering in de publieke sector te identificeren die wenselijk zijn. De claim die in het project moet worden onderzocht is dat waardegevoelige en transparante algoritmisering nodig is om ervoor te zorgen dat publieke organisaties het vertrouwen van de burgers behouden.

De belangrijkste academische ambitie van het project is het creëren van een grondig begrip van de relatie tussen het gebruik van algoritmen in de publieke sector en het vertrouwen van de burger. Het empirisch onderzoek richt zich op een overheidssector waar algoritmisering een grote impact heeft en waar het vertrouwen van de burger cruciaal voor is: de politie.

Belangrijke innovaties in het project zijn:

  • de focus op algoritmisering als een organisatorisch proces
  • de empirische analyse van de effecten van algoritmisering op het vertrouwen van de burger
  • de organisatie ontwerpbenadering van algoritmisering
  • de kennisproductie over disciplinaire en academische grenzen heen

Organisatie Reflectietool voor Algoritmisering

Tijdens dit project zal het onderzoeksteam vanaf het begin samenwerken met de politie en andere belanghebbenden (voor privacy bijvoorbeeld). Na afloop van het project zullen de politie en andere overheidsorganisaties beschikken over een gevalideerde Organization Reflection Tool for Algorithmization (ORTA) om ervoor te zorgen dat de gebruikte algoritmen het vertrouwen van de burgers hebben.

Projectleider
Onderzoeksteam
Universitair docent
Universitair hoofddocent
Universitair hoofddocent
Universitair docent