AP: onstuimige opkomst AI vraagt om waakzaamheid van iedereen

Dat schrijft de Autoriteit Persoonsgegevens (AP) in de nieuwe Rapportage AI- & Algoritmerisico’s Nederland (RAN). Als coördinator van het toezicht op algoritmes en AI analyseert de AP elk halfjaar de risico’s rond AI-systemen, en adviseert de samenleving, bedrijven, overheid en politiek over te nemen stappen.

Laag vertrouwen

In Nederland is het vertrouwen in AI lager dan in andere landen. Mensen zullen de risico’s van AI-systemen steeds vaker gaan tegenkomen in hun dagelijks leven. Van misbruik van generatieve AI voor cyberaanvallen en deepfakes tot nieuwe vormen van privacyschendingen en de kans op discriminatie en willekeur.

Aleid Wolfsen, voorzitter van de AP: ‘Het blijven stormachtige tijden. Dat is ook begrijpelijk bij de opkomst van een nieuwe systeemtechnologie die veel kansen biedt, bijvoorbeeld in medische behandelingen en inclusieve dienstverlening. Maar ook de risico’s zijn bekend. Het goede nieuws is dat er serieus werk wordt gemaakt van AI-regelgeving bovenop eisen die er nu al zijn op het gebied van bijvoorbeeld gegevensbescherming, consumentenbescherming en cybersecurity. Ook dringt het besef steeds meer door dat een verantwoorde inzet van AI arbeidsintensief is en veel vraagt van een organisatie. De waarschuwing die we afgeven is dat zolang organisaties nog twijfelen over de mate waarin ze de risico’s van AI kennen, zij terughoudend moeten zijn met de inzet van AI.’

Een voorbeeld van een maatregel die helpt om meer grip te krijgen op de inzet van AI-systemen is de zogenoemde aselecte steekproef. Veel AI-systemen worden gebruikt om mensen te profileren en te selecteren. Bijvoorbeeld voor onderzoek naar fraude. In dat soort processen helpen aselecte steekproeven om discriminatie te ontdekken en tegen te gaan.

Informatievoorziening onder druk

De AP analyseerde voor deze editie van de rapportage onder meer de risico’s van AI voor online informatievoorziening, zoals nieuws. Via de AI-systemen achter sociale media en zoekmachines hebben die platforms veel macht over welke informatie mensen te zien krijgen en hoe hun beeld van de werkelijkheid eruitziet. Daarnaast brengt de opkomst van generatieve AI een groot risico op misinformatie en desinformatie met zich mee. Door AI-toepassingen die levensechte tekst, plaatjes, video en audio genereren, kunnen mensen er niet meer op vertrouwen dat wat ze zien of horen ook echt klopt.

Daarom is het belangrijk dat mensen begrijpen hoe aanbevelingssystemen werken, en dat zij de kans krijgen het systeem uit te zetten of aan te passen. Daarnaast moeten mensen de juistheid van informatie kunnen controleren. Bijvoorbeeld door in AI-zoekmachines ook de bronnen van antwoorden te tonen, AI in te zetten om te checken of plaatjes en video’s door AI gegenereerd zijn, en door AI gegenereerde informatie te watermerken.

Democratische controle AI

Aan de hand van een enquête onder gemeentelijke organisaties analyseerde de AP de mate waarin volksvertegenwoordigers grip kunnen hebben op AI-systemen die de overheid inzet. De enquêteresultaten laten zien dat gemeentelijke organisaties nog maar beperkt overzicht hebben over hun AI-systemen, dat raadsleden twijfelen of zij voldoende kennis hebben van AI, en dat slechts enkele lokale rekenkamers sporadisch onderzoek doen naar AI-systemen. Het is noodzakelijk om gemeenteraadsleden en andere volksvertegenwoordigers te versterken, om de democratische controle op de inzet van AI te waarborgen.

Nationale AI-strategie

Tot slot roept de AP het kabinet op om onverminderd prioriteit te blijven geven aan algoritmeregistratie door overheidsorganisaties en te overwegen om ook semi-publieke organisaties hun algoritmes te laten registreren. Want juist in bijvoorbeeld het onderwijs, de gezondheidszorg, de sociale huursector en het openbaar vervoer wordt AI ingezet in situaties waarin mensen kwetsbaar zijn.

Het is belangrijk om te voorkomen dat kaders te vrijblijvend zijn of (onbewust) ruimte geven aan onvoldoende precieze of meetbare standaarden, die soms achterlopen op of strijdig zijn met wetenschappelijke inzichten. De AP ziet het aantreden van een nieuw kabinet als hét moment om de nationale AI-strategie tegen het licht te houden.