Genderongelijkheid onder makers AI-toepassingen

Zo werkt gezichtsherkenningssoftware vaak minder goed voor vrouwen dan voor mannen, koppelen werving- en selectiealgoritmes vrouwen minder vaak aan goedbetaalde banen en bevestigen generatieve AI-applicaties - zoals chatbots en virtuele assistenten - vrouwelijke stereotypen. Dat blijkt uit verkennend onderzoek van Maaike Harbers, lector Artificial Intelligence en Society van Hogeschool Rotterdam, naar de rol van gender in de ontwikkeling van verantwoorde AI. Het onderzoek werd verricht in opdracht van de provincie Zuid-Holland. De resultaten zijn vandaag tijdens het Smart & Social Fest - hét kennisevent over de digitale transitie in Rotterdam - gepresenteerd.

Kunstmatige intelligentie biedt kansen voor bedrijven en de samenleving, maar brengt ook ethische en maatschappelijke vraagstukken met zich mee, zoals discriminatie door (onbewuste) bias in algoritmes, het versterken van stereotypen en de verspreiding van desinformatie. Hoewel er steeds meer aandacht is voor de ethische kanten van AI, ofwel ‘verantwoorde AI’, geldt dit nog te weinig voor de positieve rol die een grotere (gender)diversiteit onder makers van AI-toepassingen hierbij kan spelen. Dat was aanleiding voor Maaike Harbers om onderzoek te doen naar de rol van gender in de ontwikkeling van verantwoorde AI. 

Scheve genderverdeling in AI-ontwikkelteams staat verantwoorde AI in de weg

Het onderzoek biedt inzicht in de ervaringen van vrouwen die in verschillende rollen in de Nederlandse AI-sector werken of gewerkt hebben en in de rol van gender in de ontwikkeling van verantwoorde AI. “Er is weliswaar veel onderzoek gedaan naar gender, diversiteit en inclusie in de IT-sector, maar dat geldt nauwelijks voor de AI-sector. Dat is een gemis, omdat AI grote ethische risico's heeft. Juist daarom is diversiteit in perspectieven heel belangrijk. Zo zijn er helaas veel voorbeelden waarbij algoritmes groepen mensen benadelen vanwege bewuste of onbewuste vooroordelen in data, zoals gebeurde bij het toeslagenschandaal”, vertelt Harbers. “Meer diversiteit in de AI-sector betekent dat we meer verschillende perspectieven meenemen bij het maken van AI. Dit verkleint de kans op nadelige effecten. Ons onderzoek toont aan dat vrouwen een cruciale rol hebben in het ontwikkelen van verantwoorde AI: ze brengen extra perspectieven in en zetten zich hier sterker voor in dan mannen.”

Veel vrouwelijk IT-talent in de AI-sector wordt nog niet benut

Deze scheve genderverdeling in de Nederlandse AI-sector staat de ontwikkeling van ‘verantwoorde AI’ in de weg. “Vrouwelijke perspectieven spelen geen grote rol bij het ontwerp van AI-toepassingen. Op dit moment gaat veel aandacht uit naar biases in data waarmee AI-toepassingen worden getraind, maar is er veel minder focus op het vergroten van de (gender)diversiteit in het werkveld”, aldus Harbers. “Zo geven vrouwen aan dat zij minder serieus worden genomen en de sector minder inclusief is voor vrouwen. Dit is zorgwekkend, want dit leidt ertoe dat de uitstroom onder vrouwen groot is, vaak al aan het begin van hun carrière, terwijl er grote arbeidstekorten zijn. Dat is een groot gemis, want vrouwen zetten zich meer in voor verantwoorde AI dan mannen, stellen andere vragen en bieden hiermee een aanvullend perspectief. Juist de groep die zich inzet voor verantwoorde AI en hieraan een unieke bijdrage kan leveren, wordt te vaak over het hoofd gezien.”

Zo blijkt uit het onderzoek dat er tussen vrouwen en mannen verschillen zijn in de manier waarop ze met ethische AI-vraagstukken omgaan. “Sommige vrouwen gaven aan dat in teams met een dominante mannelijke cultuur vaker risico’s genomen worden, terwijl vrouwen zich eerder terughoudend opstellen. Zo wezen zij erop dat AI-toepassingen, zoals robots, een negatieve milieu-impact hebben vanwege de grondstoffen die ervoor nodig zijn of vreesden zij dat AI-technologie nadelige gevolgen kon hebben voor specifieke groepen in de samenleving. Mogelijk komt dit doordat als je zelf tot de groep behoort die door een AI-systeem benadeeld kan worden, dit sneller opvalt dan bij iemand die niet tot die groep behoort.”

Scheve genderverdeling in AI-ontwikkelteams verdient meer aandacht

Het vergroten van het bewustzijn over het belang van meer diversiteit en inclusie op de werkvloer is één van de aanbevelingen in het onderzoek om de scheve genderverdeling in de AI-sector te verkleinen. Dat dient ook te worden verankerd in het beleid van bedrijven. Harbers: “Zorg voor meer diversiteit in teams en laat als management zien dat je verantwoorde AI serieus neemt. Zo toont onderzoek aan dat meer diversiteit en inclusie in ontwikkelteams niet alleen leidt tot meer creativiteit, maar dat het je als bedrijf óók in staat stelt vrouwen voor langere tijd aan je te binden. Door het erkennen en benoemen van de verdiensten van vrouwen in de ontwikkeling van kunstmatige intelligentie, wordt het vakgebied aantrekkelijker voor vrouwen. En juist dat is cruciaal in een tijd waarin de aandacht voor verantwoorde AI alleen maar zal groeien, terwijl de sector tegelijkertijd kampt met grote personeelstekorten.”

Het onderzoek is in opdracht van de Provincie Zuid-Holland verricht door Kenniscentrum Creating 010 van Hogeschool Rotterdam en begeleid door VHTO - het Expertisecentrum Voor Haar Technische Ontwikkeling - een stichting die zich inzet om de participatie van meisjes en vrouwen in bèta, techniek en IT te verhogen.

Download het volledige onderzoek hier: https://hr.nl/onderzoek-gender-ai