Hoe algoritmes bijdragen aan etnisch profileren

"Etnisch profileren is door een veelheid aan beschikbare data heel eenvoudig", stelt Gerwin van Schie MA (Genderstudies) op Oneworld. 

In 2007 publiceerde de website GeenStijl de ‘Allochtoon-O-Meter’, waarmee kon worden opgezocht hoeveel mensen met een niet-westerse migratieachtergrond er in een buurt woonden. Om de applicatie ontstond destijds veel ophef. 

Cijfers van het CBS

"Dat de ‘Allochtoon-O-Meter’ racistisch was spreekt voor zich", zegt Van Schie, "maar dan kunnen we dat ook zeggen over de data-infrastructuur van het CBS. De cijfers die GeenStijl gebruikte, waren daar namelijk eenvoudig te verkrijgen. Eigenlijk deed de ‘Allochtoon-O-Meter’ precies waar de data toe uitnodigen. Het enige wat GeenStijl heeft gedaan is de gegevens makkelijker beschikbaar maken."

Transparantie 

Daarom roept Van Schie programmeurs en beleidsmakers op om open te zijn over de gegevens die ze gebruiken en de doelen die ze daarmee voor ogen hebben. "Zo kan verkeerd gebruik worden aangekaart. Bovendien maakt transparantie over gegevensgebruik duidelijk welke politieke keuzes daar achter zitten."