Rotterdams algoritme geeft kwetsbare groepen vaak hoge risicoscore voor fraude

Het gebruik van een algoritme voor het bestrijden van fraude met bijstandsuitkering door de gemeente Rotterdam leidt ertoe dat met name de meest kwetsbare groepen onder het vergrootglas liggen. Denk daarbij aan jonge moeders, mensen die de Nederlandse taal niet goed machtig zijn, jongeren en mensen met financiële problemen.

Dit blijkt uit onderzoek van Argos, Vers Beton, Follow the Money en Lighthouse Reports. Zij kregen het algoritme in handen via de Wet open overheid (Woo) en analyseerde werking hiervan. Het algoritme heet Analytics Uitkeringsfraude. De gemeente Rotterdam gebruikt het algoritme om te scannen op fraude bij aanvragen voor een bijstandsuitkering. In totaal krijgen zo’n 30.000 Rotterdamse deze uitkering. Enkele honderden van hen worden jaarlijks onder de loep genomen.

Ruim driehonderd criteria

Via het algoritme wordt het risico op fraude in kaart gebracht. Dit gebeurt aan de hand van 315 criteria, variërend van persoonskenmerken tot gezondsheidsproblemen. Op basis hiervan krijgt een persoon een risicoscore tussen de 1 en 10 toegewezen. Wie de hoogste score krijgt wordt gecontroleerd.

In de praktijk blijkt dat met name kwetsbare groepen een hoge risicoscore krijgen toegewezen door het algoritme. Zo blijkt onder meer dat de mate waarin iemand de Nederlandse taal machtig is een belangrijke rol speelt in de score. Dit punt komt in twintig verschillende variabelen terug. De onderzoekers melden dat indien personen op alle taal-gerelateerde punten slecht scoren, zij twee keer zo vaak de hoogste risicoscore toegewezen krijgen dan personen die Nederlands als moedertaal hebben.

Ook twijfels over eerder algoritme

Het gebruik van het algoritme is opvallend, aangezien er al langer twijfelt worden gezet bij de zinet van dergelijke algoritmes in de gemeente Rotterdam. Zo het gebruik van een ander algoritme eerder stilgelegd nadat de Rekenkamer Rotterdam waarschuwde voor ethische risico’s bij het gebruik hiervan.

Meer informatie over het onderzoek is hier beschikbaar.