Europees Parlement stemt voor de AI Act

Onderdeel van de wet is onder meer een verbod op het gebruik van AI voor biometrische surveillance, het herkennen van emoties en zogenaamd voorspellend beleid. Ook moeten generatie AI-systemen als ChatGPT, Bing AI en Bard duidelijk vermelden dat content door AI is gegeneerd. AI-systemen bedoeld voor het beïnvloeden van stemmers tijdens verkiezingen worden gezien als hoog-risico systemen.

De wet is met een ruime meerderheid aangenomen, met 499 stemmen voor, 28 stemmen tegen en 93 onthoudingen. Dit maakt de weg vrij voor het Europees Parlement om met EU-lidstaten in gesprek te gaan over de definitieve vormgeving van de AI Act.

Aanpassingen

De wet is door het Europees Parlement op enkele punten aangepast. Het gaat daarbij onder meer om:

• het gebruik van realtime systemen voor biometrische identificatie op afstand in openbaar toegankelijke ruimtes;
• de inzet van systemen voor 'post' biometrische identificatie op afstand, met als enige uitzondering rechtshandhaving voor de vervolging van ernstige misdrijven. In dit laatste geval mogen systemen alleen na gerechtelijke toestemming worden ingezet;
• het toepassen van biometrische categoriseringssystemen die gebruik maken van gevoelige kenmerken zoals geslacht, ras, etniciteit, staatsburgerschap, religie, politieke oriëntatie;
• het gebruik van voorspellende politiesystemen op basis van profilering, locatie of crimineel gedrag in het verleden;
• de toepassing van emotieherkenningssystemen bij wetshandhaving, grensbeheer, de werkplek en onderwijsinstellingen;
• het ongericht 'scrapen' van gezichtsbeelden van internet of camerabeelden om databases voor gezichtsherkenning aan te maken in strijd met mensenrechten en recht op privacy.

Lijst met risicovolle AI-systemen uitgebreid

Ook is de omschrijving van risicovolle AI-systemen uitgebreid. Dit omvat nu onder meer ook systemen die een significant risico opleveren voor de gezondheid, veiligheid, fundamentele rechten of omgeving van mensen. Ook systemen die stemmers tijdens verkiezingen beïnvloeden zijn opgenomen op de lijst.

Providers van zogeheten foundation models moeten mogelijke risico die hun modellen met zich meebrengen identificeren voordat zij deze op de markt mogen brengen. Ook moeten zij hun modellen registreren in een Europese database. Generatieve AI-systemen moeten daarnaast meer transparantie gaan bieden en maatregelen nemen tegen het genereren van illegale content. Ook moeten zij tot in details bijhouden welk auteursrechtelijk beschermd materiaal zij gebruiken voor trainingsdoeleinden.

Uitzonderingen voor onderzoek en opensource AI

Daarnaast zijn uitzonderingen opgenomen in de AI Act bedoeld om onderzoeksactiviteiten en AI-componenten die opensource beschikbaar zijn te beschermen. Ook promoot de wetgeving het gebruik van zogenaamde 'regulatorische sandboxes' of praktijkomgevingen die door publieke autoriteiten worden opgezet voor het testen van AI voordat deze wordt uitgerold.

Tot slot wil het Europees Parlement Europese burgers meer rechten geven voor het indienen van klachten over AI-systemen en het verkrijgen van uitleg over beslissingen die zijn genomen op basis van risicovolle AI-systemen die hun fundamentele rechten significant raken. Het EU AI Office gaat de implementatie van de AI-regelgeving monitoren.