Internationale Vrouwendag: hoe AI helpt bij het bestrijden van vooroordelen

Dit stelt SAS. Bias beïnvloedt ons van jongs af aan. Zelfs jonge kinderen nemen onbewust genderstereotypen over van hun omgeving. Véronique Van Vlasselaer, Analytics en AI Lead bij SAS: “Ondanks dat mijn zoon van vier en dochter van één worden opgevoed met het idee dat zij dezelfde kansen krijgen en in gelijkheid opgroeien, zei mijn zoontje laatst uit het niets “Jongens kunnen hard werken, meisjes niet”. Dit laat zien hoe diepgeworteld deze vooroordelen zijn. De oorzaak ligt niet per se in de gezinssituatie, maar eerder in de maatschappij. Ideeën over genderongelijkheid worden blijkbaar generaties lang doorgegeven, vaak zonder dat we het doorhebben.”

AI voor gelijkheid

Het voorbeeld laat zien hoe diepgeworteld en automatisch onze maatschappelijke bias is. En dat is precies waar AI een rol kan spelen. Vaak wordt gedacht dat AI juist voor meer ongelijkheid zorgt, maar in werkelijkheid kan het helpen die bloot te leggen en te corrigeren.

Er zijn intussen genoeg voorbeelden van AI-systemen die ongelijkheid blootleggen. Zo beoordeelden sommige recruitmenttools het vrouwelijk geslacht als een negatieve factor, simpelweg omdat ze getraind waren op historische data. In de medische sector leiden AI-modellen er soms toe dat vrouwen anders behandeld worden dan mannen. In plaats van AI enkel te veroordelen en deze modellen af te wijzen, moeten we ze zien als een spiegel die bevestigt hoe diepgeworteld ongelijkheid in onze samenleving is.

Correctie met biasmitigatie

SAS wijst erop dat de maatschappij veranderen generaties kost. Technologie aanpassen gaat sneller. AI kan volgens het bedrijf helpen onze blinde vlekken te zien én te corrigeren. Zo groeien jonge kinderen op in een wereld met eerlijkere kansen dan eerdere generaties.

Van Vlasselaer: “AI is geen magische oplossing, maar een krachtig middel om ongelijkheid bespreekbaar te maken. In vaktermen noemen we dit biasmitigatie. Zodra we weten waar er bias opduikt, kunnen we gaten opvullen met synthetische data. Dat zijn gegevens die kenmerken simuleren en op die manier het tekort aan informatie over bepaalde minderheidsgroepen helpen opvangen. Vrouwen die niet genoeg vertegenwoordigd zijn in historische data, worden op die manier versterkt, waardoor AI-systemen ook in hun beslissingslogica meer gelijkwaardigheid gaan opnemen. Ook taalmodellen zoals ChatGPT hebben in korte tijd enorme stappen gezet in het neutraliseren van genderstereotypen.”