Promotie: Verantwoord politiewerk in het algoritmische tijdperk

Op vrijdag 16 mei 2025, om 16.00 uur verdedigt Isabelle Donatz-Fest haar proefschrift Cop, Code, and Conduct. A practice-based understanding of responsible policing in the algorithmic age.

De opkomst van algoritmische systemen transformeert onze samenleving. Ze bieden voordelen zoals meer efficiëntie en verbeterde besluitvorming, maar brengen ook risico’s met zich mee, zoals discriminatie en verlies van vertrouwen.

Om kansen te kunnen benutten en risico’s te voorkomen, is het belangrijk uit te zoeken hoe deze systemen in de praktijk worden geïmplementeerd en hoe we ervoor kunnen zorgen dat ze beantwoorden aan democratische idealen en publieke waarden zoals non-discriminatie, veiligheid, transparantie en efficiëntie beschermen.

Dagelijkse afwegingen van waarden in de praktijk

Voor haar proefschrift onderzocht Isabelle Donatz-Fest hoe de Nederlandse politie algoritmen inzet, en hoe zij dat op een verantwoorde manier kan doen – dus door die publieke waarden centraal te stellen. In een domein waar algoritmische besluiten een kwestie van leven of dood kunnen zijn, is het beschermen van deze waarden essentieel.

Isabelle Donatz-Fest deed etnografisch onderzoek  naar het ontwerp en gebruik van algoritmes bij de politie. Zij liep langdurig mee in de organisatie en observeerde de alledaagse context van het werk rondom algoritmen. Dus ook op hoe publieke en ethische waarden daarin een rol krijgen.

De inzet van algoritmen is mensenwerk

Het onderzoek van Donatz-Fest laat zien dat het ontwerpen van algoritmische systemen, én verantwoorde inzet daarvan, mensenwerk zijn. Data wetenschappers, mensen die de data leveren en gebruikers van het systeem, maar ook bijvoorbeeld managers, beleidsmakers, beheerders en politici spelen een rol. Zij hebben allemaal invloed op hoe een algoritme in de organisatie wordt ingebed en hoe het in de praktijk functioneert. Daarnaast werken zij in een fysieke context, die ook een belangrijke rol speelt.  

Donatz-Fests onderzoek toont ook aan dat verantwoorde inzet van algoritmen een doorlopend, evoluerend proces is, dat voortdurende verbetering en aanpassing vereist. Dat vraagt om organisatorische inzet en inspanning. In plaats van te zoeken naar een 'one-size-fits-all' oplossing, moeten organisaties, zoals de politie, volgens Donatz-Fest daarom werken aan het verankeren van verantwoorde algoritmisering in hun organisatiecultuur, waarbij samenwerking en flexibiliteit centraal staan.

Door algoritmes te beschouwen als dynamische en onderling verbonden systemen, kunnen publieke organisaties die algoritmes op een verantwoorde manier integreren, zodat deze technologieën een positieve bijdrage leveren aan de samenleving. De onderzoeksresultaten zijn dan ook gedeeld met de politie en dat heeft op enkele plekken geleid tot aanpassingen in het werkproces en de algoritmes.

Isabelle Donatz-Fest is als promovenda verbonden aan het departement Bestuurs- en Organisatiewetenschap (USBO). In juni start zij als Adviseur Verantwoord Datagebruik en AI bij The Green Land.