Indeling van burgers op basis van migratieachtergrond kan leiden tot discriminatie
Nederlandse overheden moeten bewuster omgaan met data over migratieachtergrond
De datasystemen van Nederlandse overheden delen burgers in op basis van gegevens als leeftijd en woonplaats, maar ook migratieachtergrond en etniciteit. Gerwin van Schie onderzoekt hoe zulke gegevens betekenis krijgen in computersystemen. Hij dook in de ‘dataficatie’ van de samenleving en concludeert dat een indeling gebaseerd op migratieachtergrond zorgt voor discriminatie. Van Schie promoveerde op 16 september aan de Universiteit Utrecht.
Data en algoritmes niet zo neutraal als ze lijken
Sinds ongeveer 2005 omarmen Nederlandse overheden de beloften van data en algoritmen: hiermee wordt geprobeerd patronen in menselijk gedrag bloot te leggen. Patronen die normaal voor mensen onzichtbaar blijven in grote hoeveelheden data met algoritmen. Dit klinkt kansrijk en onschuldig, maar blijkt discriminatie en stigmatisering in de hand te werken.
Gebruik van gegevens over migratieachtergrond zonder bewezen effectiviteit
Het Centraal Bureau voor de Statistiek (CBS) verzamelt data over de Nederlandse bevolking, zonder specifiek doel. Het CBS stelt deze data beschikbaar over bijvoorbeeld de migratieachtergrond van burgers. Applicaties zoals de Leefbaarometer van het Ministerie van Binnenlandse Zaken en het Criminaliteitsanticipatiesysteem van de Nederlandse Politie gebruiken die gegevens – zonder dat ooit is aangetoond dat dit tot effectiever beleid kan leiden.
Discriminatie op afkomst raakt niet iedereen even hard
“Binnen ons openbaar bestuur worden datasystemen gebruikt waarvan we niet zeker weten of ze werken, maar die wel zeker weten discrimineren”, aldus Gerwin van Schie, die onder meer het CBS-systeem en enkele applicaties die daarop gebaseerd zijn, onderzocht. Zo zijn er minder huurwoningen beschikbaar voor mensen met een migratieachtergrond, door de leefbarometer en worden mensen vaker gecontroleerd op uitkeringsfraude. “We zijn blijkbaar bereid dat risico te lopen omdat het de Nederlander zonder migratieachtergrond niet raakt. Die trend zie je ook breder, bijvoorbeeld in de toeslagenaffaire.” Van Schie wil dat overheden veel kritischer kijken naar welk data zij gebruiken en met welk doel.
Structurele veranderingen nodig
Bijvoorbeeld het Criminaliteitsanticipatiesysteem: tot 2015 voerde de politie op basis van dit systeem vaker controles uit in wijken waar veel mensen met een migratieachtergrond wonen, terwijl bewijs voor de werking van het systeem vooralsnog ontbreekt. Gegevens over migratieachtergrond werden in 2017 uit het systeem verwijderd. Maar dat levert geen verbeteringen op als politiemensen op straat etnisch profileren. “Het systeem wordt dan nog steeds gevoed met bestaande vooroordelen”, aldus Van Schie. “Er zijn structurele veranderingen nodig om de boel weer op de rit te krijgen.”
We zijn blijkbaar bereid dat risico te lopen omdat het de Nederlander zonder migratieachtergrond niet raakt. Die trend zie je ook breder, bijvoorbeeld in de toeslagenaffaire.
Discriminatie als onderdeel van het ontwerp
“Als een datasysteem gebruik maakt van informatie over migratieachtergrond of etniciteit voor een evaluatie of voorspelling, dan zijn discriminerende uitkomsten geen ongelukje, maar een inherent onderdeel van het ontwerp”, vertelt Van Schie.
Een van de problemen in datasystemen als die van het CBS is dat er gewerkt wordt met zogenaamde ‘normcategorieën’. Daarbij worden bepaalde mensen gezien als de norm: meestal zijn dat autochtone mannen die in of rond het centrum van een stad wonen en een modaal inkomen hebben. Zij krijgen het voordeel van de twijfel en worden minder vaak gevraagd om zich te verantwoorden. Val je niet in een normcategorie? Dan wordt je extra gewantrouwd vaker gecontroleerd.
Beoordelen op gedrag, niet op geboorteplaats
Organisaties laten zich vaak leiden door het idee dat data en algoritmes objectieve oplossingen bieden voor problemen. Maar dat kan alleen als zo’n datasysteem alle Nederlanders gelijk behandelt. Van Schie: “We moeten mensen beoordelen op hun gedrag, en niet op waar zij of hun ouders zijn geboren. Het gaat actief moeite vergen om dat te veranderen in de huidige systemen.”
“Ik hoop dat de resultaten van dit onderzoek Nederlandse overheden helpen in het proces richting eerlijke en transparante datasystemen. Ik zie al mooie ontwikkelingen, zoals gemeenten die ethiek-cursussen aanbieden aan hun medewerkers, en workshops om bestaande algoritmen in lijn te brengen met geldende mensenrechten-wetgeving. Die organiseren we ook vanuit de Utrecht Data School, want we willen echt helpen in die overgang en niet alleen roepen hoe het moet. Zodat uiteindelijk iedereen die in Nederland woont, gelijk wordt behandeld en gewaardeerd.”
Het proefschrift van Gerwin van Schie getiteld 'Dataficatie van Ras en Etniciteit in Nederland: Onderzoek naar de praktijk, de politiek en de toe-eigening van Open Data van de overheid' werd gefinancierd door NWO.