Van Huffelen wil snel maatregelen tegen verkeerd gebruik van algoritmen

De overheid gaat snel maatregelen nemen om te voorkomen dat burgers in de problemen komen door verkeerd gebruik van algoritmen. Zo wordt onder meer een algoritmetoezichthouder aangesteld. Ook transparantie over het gebruik van algoritmen en de implementatie van effectieve Europese regelgeving zijn speerpunten.

Dit schrijft staatssecretaris Alexandra van Huffelen van Digitalisering (foto) in een aantal brieven aan de Tweede Kamer. Van Huffelen meldt dat burgers zelf regie moeten kunnen houden op hun digitale leven en de digitale wereld daarnaast moeten kunnen vertrouwen. Algoritmes moeten daarom de rechten van mensen respecteren. Dat geldt voor algoritmes van bedrijven, maar ook voor het gebruik van algoritmes door overheden. De overheid heeft hierbij een voorbeeldfunctie, schrijft de staatssecretaris.

Van Huffelen: “De nadruk moet bij inzet van algoritmen niet alleen liggen op het bestraffen van mensen.  Er zijn nu ook veel algoritmen die goede dingen doen. Juist nu mensen in financieel zwaar weer terecht komen wil ik dat de overheid algoritmen vooral inzet om mensen te helpen, bijvoorbeeld bij het gebruik van regelingen zoals bij UWV en SVB. Dat er een algoritme komt dat mensen wijst op regelingen die ze mislopen waar ze wel recht op hebben. Ik laat nu uitzoeken hoe zoiets zou kunnen werken. Ik heb ook geld uitgetrokken om met oplossingen te komen om met data en algoritmen armoede en problematische schulden te bestrijden. Algoritmen moeten alleen gebruikt worden wanneer het echt nodig is om de overheid goed te laten werken.”

Bescherming van mensenrechten

Op verzoek van Van Huffelen onderzocht het Rathenau Instituut de bescherming van mensenrechten bij de inzet van algoritmen. Het onderzoek brengt in kaart welke maatregelen uitvoeringsorganisaties nemen bij de ontwikkeling en het gebruik van profilerende systemen voor het borgen van mensenrechten en het versterken van deze borging. De staatssecretaris onderschrijft de aanbevelingen uit het onderzoeksrapport.

Ook concludeert Van Huffelen dat de overheid zich moet baseren op heldere juridische eisen en ethische beginselen, die overal eenduidig worden toegepast. Zo zijn er nu bijvoorbeeld verschillende richtlijnen en methoden voor het toetsen van algoritmen op risico's. Hierbij is meer stroomlijning en prioritering nodig, meldt de staatssecretaris. Dit moet leiden tot een implementatiekader voor de inzet van algoritmes. Ook noemt Van Huffelen het van groot belang om het gesprek over de inzet van algoritmen binnen de overheid en tussen overheden op gang te brengen en kennis te delen.

Vooraf toetsen

Van Huffelen: “Algoritmen moeten vooraf worden getoetst en gedurende het gebruik steeds weer worden onderzocht op datakwaliteit, proportionaliteit en mogelijke bias. Het is met name van belang om ons in elk geval te richten op algoritmen met een hoog risico op het schenden van fundamentele rechten. Op deze algoritmen moet helder toezicht worden ingericht, vooraf, tijdens en na het gebruik. En de werking en inzet moeten transparant zijn, waarbij het duidelijk is waar burgers en bedrijven hun recht kunnen halen wanneer ze menen dat het algoritme onrechtmatig wordt ingezet.”

De staatssecretaris ziet ook een belangrijke rol weggelegd voor Europees beleid en wetgeving. Het kabinet zet zich in Europees verband in voor een betere bescherming van burgers en het alleen op de markt toelaten van algoritmische toepassingen die fundamentele rechten respecteren. Nederland wil dat in de AI-verordening een risicoanalyse ten aanzien van fundamentele rechten expliciet verplicht wordt gesteld. Dit moet transparant maken waar overheden gebruik maken van AI. Ook wil het kabinet dat er rechtsingangen zijn voor burgers wiens rechten geschonden worden. Waar nodig worden hiervoor aanvullende eisen gesteld bovenop het Europese beleid.