Je gender bepaalt (deels) welke vacatures je online ziet

Zogeheten gender-bias, vooroordelen op basis van je gender, speelt een rol in je zoektocht naar een baan. Recent onderzoek van Nationale Vacaturebank en Radboud Universiteit wijst uit dat er sprake is van een zekere mate van gender-bias in de manier waarop je vacatures krijgt aangeboden door online vacaturebanken. Uit hetzelfde onderzoek blijkt dat kunstmatige intelligentie (AI) je biologische gender kan bepalen aan de hand van de woorden op je cv.

Patroonherkenning

Dr. Harrie Oosterhuis, docent machine learning aan de Radboud Universiteit Nijmegen, specificeert waar het probleem ligt: bij machine learning als onderdeel van AI, oftewel patroonherkenning. ‘Een patroonherkenningssysteem leert in grote hoeveelheden data patronen herkennen, waardoor het ‘intelligent’ wordt. Zoals bij het matchen van cv’s aan bepaalde vacatures.’

Waarom is dat problematisch? ‘Omdat algoritmen op die manier voorspellingen doen over vacatures die bij jou passen, terwijl die voorspellingen afhankelijk zijn van je gender’, legt Clara Rus, de masterstudent die het onderzoek uitvoerde, uit. ‘Dat kan vervelende gevolgen hebben.’

Rus kwam tot haar resultaten door een ‘word association test’ uit te voeren. Deze test controleert of bepaalde woorden in functietitels of vaardigheden vaker geassocieerd worden met mannen of vrouwen.

‘Neem de functietitel chauffeur als voorbeeld’, zegt Rus. ‘Als een algoritme van een vacaturebank door het analyseren van data leert dat die functietitel meer geassocieerd wordt met mannen, omdat er meer mannelijke chauffeurs zijn, dan zal het die vacature eerder voorleggen aan mannen dan aan vrouwen. Ongeacht vaardigheden of voorgaande werkervaring.’

Sociale of maatschappelijke gevolgen

Het probleem: een algoritme zoekt naar patronen in data, zonder daarbij aan sociale of maatschappelijke gevolgen te denken. ‘Computers zijn door patroonherkenning goed in het vinden van een correlatie’, zegt Oosterhuis. ‘Maar niet per se in het vinden van causale verbanden.’

Zo zijn mannen niet per definitie betere chauffeurs dan vrouwen. ‘Bovendien kan het verband tussen de woorden die je gebruikt op je cv en de vacatures die AI je voorschotelt maatschappelijke gevolgen hebben en ongelijkheid in de hand werken’, zegt Rus. ‘Als er gender-bias aanwezig is in het AI-programma van een vacaturebank, kan dat bestaande gender-normatieve patronen waarin die vooroordelen tot uiting komen versterken.’

Voorkomen beter dan genezen

Het is voor online vacaturebanken en recruiters van belang om hier nu al aandacht aan te besteden, zegt Rus. 'In sommige sectoren zit gender-bias diep ingebakken en zijn man-vrouwverhoudingen niet in balans. Het is onverstandig om daar geen rekening mee te houden bij de ingebruikname van AI, want daardoor wordt de kloof tussen mannen en vrouwen niet gedicht, en mogelijk zelfs vergroot.’

Volgens universitair docent Oosterhuis snijdt het mes aan twee kanten. ‘De kansen die patroonherkenningssystemen online vacaturebanken en werkzoekenden bieden, zijn net zo prominent als de gevaren. Het kan helpen vacatures te koppelen aan de juiste kandidaten, maar niet als dat gepaard gaat met onbedoelde discriminatie.’

Om discriminerende uitkomsten te voorkomen, zijn er volgens Oosterhuis twee opties: ‘Of we moeten computers leren heel slecht te worden in het herkennen van gender, of we moeten aanbevelingssystemen leren automatisch een top 10 te maken met een 50/50 man-vrouwverdeling.’

Wetgeving

Gediscrimineerd worden door een patroonherkenningssysteem, is vervelend, zegt Oosterhuis. ‘Meestal betaalt de werkzoekende de rekening. Die loopt een baan en inkomsten mis, terwijl hij of zij helemaal geen invloed had op het systeem dat de aanbevelingen deed.’

Wat hem betreft moet daarom inzichtelijker worden hoe een algoritme tot een bepaalde beslissing komt. ‘Discrimineren op basis van gender, naam of culturele achtergrond is illegaal. Maar we zijn nog niet zo ver dat je als werkzoekende kunt achterhalen of je bent gediscrimineerd door een algoritme of niet.’

Rus is het hiermee eens. Volgens haar ligt de bal tot die tijd bij vacaturebanken zelf. ‘De methode die ik heb gebruikt in mijn onderzoek kan door online vacaturebanken makkelijk worden toegepast om te achterhalen of de systemen die zij gebruiken discrimineren. Mochten data aantonen dat ze dat doen, dan kunnen vacaturebanken werkzoekenden daar in ieder geval over inlichten.’

In ieder geval zouden vacaturebanken werkzoekenden moeten inlichten over mogelijke gender-bias, mochten de data dat aantonen.’