Zoekalgoritmes van vacaturesites zijn niet genderneutraal

Sollicitanten die in de wachtkamer zitten © iStockphoto.com/katleho Seisa
© iStockphoto.com/katleho Seisa

Als je als werkzoekende gebruikmaakt van een vacaturesite, is de zoekterm die je intikt en de manier waarop het zoekalgoritme werkt, van invloed op welke banen jij te zien krijgt. Uit onderzoek van de Utrecht Data School blijkt dat algoritmes van vacaturesites er niet altijd in slagen om genderneutraal te zoeken. Projectleider Iris Muis: “Het kan bijvoorbeeld zo zijn dat een vrouw die zoekt naar een functie voor 'lerares' een lager betaalde baan te zien krijgt dan iemand die zoekt met de term 'leraar'.”

Iris Muis
Iris Muis

Net zoals dat potentiële werkgevers kunnen discrimineren tijdens een sollicitatiegesprek, kan ook een algoritme discrimineren bij de keuze welke vacatures jou wel of niet getoond worden.

Negatieve impact van algoritmes

“Het is goed om meer aandacht te geven aan deze mogelijke negatieve impact van algoritmes, omdat daar vaak bij de ontwikkeling of aanschaf van het algoritme niet bij stil wordt gestaan”, stelt Muis. Naast deze mogelijk negatieve impact kunnen zoekalgoritmes vooringenomenheid ook juist tegengaan, aldus de Utrecht Data School. Zij voerden het onderzoek uit in opdracht van het College voor de Rechten van de Mens.

Dit onderzoek was een stap in de richting van meer bewustzijn en openheid over de rol van algoritmes binnen de arbeidsmarkt.

Geen aanwijzingen voor discriminatie op profielkenmerken

De Utrecht Data School onderzocht in de eerste plaats of er aanwijzingen waren dat de algoritmes discrimineerden bij de manier waarop vacaturesites beschikbare vacatures aan kandidaten koppelen. Hiervoor maakten de onderzoekers op vier grote Nederlandse vacaturesites nepprofielen van kandidaten die varieerden in geslacht, etniciteit en leeftijd. Per profiel zochten de onderzoekers naar verschillende functietitels en vergeleken de zoekresultaten tussen de profielen. De Utrecht Data School vond geen aanwijzingen voor mogelijke risico’s op discriminatie op basis van de onderzochte profielkenmerken.

Zoek genderneutraal in vacatures

Het kan echter wel nadelig uitpakken als een werkzoekende zoektermen gebruikt die niet genderneutraal zijn, zoals ‘lerares’ of ‘timmerman’. Werkgevers, softwareontwikkelaars en werkzoekenden kunnen bepaalde beroepen vanwege heersende genderstereotypen als typisch mannelijk of vrouwelijk zien: directeuren zijn altijd man. Secretaresses zijn altijd vrouw. Deze maatschappelijke vooringenomenheid kan invloed hebben op de manier waarop algoritmes op vacaturesites werken.

Poppetjes man, vrouw, genderneutraal

Zoek je op lerares of docent?

Een (vrouwelijke) werkzoekende die bijvoorbeeld op ‘lerares’ zoekt, zou idealiter dezelfde vacatures te zien moeten krijgen als iemand die zoekt op ‘leraar’ of ‘docent’. Uit het UDS-onderzoek blijkt dit echter voor de onderzochte vacaturesites niet altijd het geval. Zo zagen de onderzoekers dat een zoekopdracht met ‘lerares’ als functietitel op een van de sites beduidend minder vacatures opleverde dan de mannelijke (‘leraar’) of neutrale variant (‘docent’). Terwijl op de andere vacaturesites deze zoektermen juist wel resulteerden in vergelijkbare zoekresultaten.

Uitgesproken gendergekleurde functietitels

De zoektermen ‘secretaresse’ (hoewel dit tegenwoordig niet uitsluitend vrouwen aanduidt), ‘schoonmaakster’ en ‘verpleegster’ worden op alle onderzochte vacaturesites weinig “geneutraliseerd” en laten hierdoor alleen vacatures zien met exact deze functietitels.

“Typisch vrouwelijke” functietitel

Het viel de onderzoekers op dat de schrijvers van de vacatures zich met hun taalgebruik soms nadrukkelijk richten tot één geslacht, zoals in vacatures voor secretaresse-functies die zich nadrukkelijk richten tot vrouwen. Opvallend was ook dat soms bij gebruik van een “typisch vrouwelijke” functietitel als zoekterm, de sites lager betaalde functies toonden. Zo zochten de onderzoekers op één site met de zoekterm ‘lerares’ en liet de website vervolgens een functie voor ‘onderwijsassistent’ zien, terwijl die vacature na het invoeren van de zoekterm ‘leraar’ als zoekterm niet naar boven kwam.

Een simpel zoekalgoritme dat alleen letterlijk de ingevoerde zoekterm overneemt, zal vooringenomenheid reproduceren.

Complexe algoritmes kunnen vooringenomenheid tegengaan

Een simpel zoekalgoritme dat alleen letterlijk de ingevoerde zoekterm overneemt, is niet in staat om vooringenomenheid tegen te gaan, maar zal die reproduceren. Een zoekalgoritme dat complexere methoden gebruikt, kan alle drie doen: vooringenomenheid tegengaan, reproduceren of versterken. Het maakt dus uit hoe softwareontwikkelaars het algoritme laten werken.

Inclusieve algoritmes

Het College beveelt aan vacaturesites om te werken met meer complexe algoritmes die vooringenomenheid kunnen tegengaan. Collegelid Quirine Eijckman: “Het is de verantwoordelijkheid van vacaturessites om te zorgen voor representatieve data en inclusieve algoritmes.” Het College heeft de onderzochte websites dan ook geïnformeerd over de onderzoeksuitkomsten en uitgenodigd om deze nader te bespreken.