Inzicht in gebruik ChatGPT ontbreekt bij veel gemeenten

Dit blijkt uit rondvraag van EenVandaag onder 137 gemeenten. Het grootschalige gebruik van ChatGPT door Nederlandse gemeenten is opvallend, aangezien het gebruik van de AI-technologie door Rijksambtenaren met het oog op risico's juist wordt afgeraden. Veel gemeenten weten overigens niet hoe medewerkers ChatGPT in de praktijk inzetten. Zo geeft 39% toe hiervan geen goed beeld te hebben.

Niet zonder risico's

Expert data-ethiek Iris Muis uit tegenover EenVandaag haar zorgen. "Het risico is dat burgers hierdoor verkeerde informatie ontvangen, die klakkeloos uit ChatGPT wordt doorgestuurd. Je weet niet zeker hoe ChatGPT aan zijn antwoord komt en hij heeft het vaak fout", aldus Muis. "Je moet dat dus continu checken, maar ik denk dat als een ambtenaar een antwoord op een scherm ziet dat die snel denkt: 'Ah handig! Copy-paste en klaar.'"

Muis wijst echter ook op dat informatie die in ChatGPT wordt gestopt, gebruikt kan worden voor trainingsdoeleinden. Zo kan gevoelige informatie op straat komen te liggen. Ook waarschuwt de expert data-ethiek dat de AI-chatbot in sommige gevallen bevooroordeelde antwoorden geeft. Doordat ChatGPT is getraind op illegaal verkregen data, is het gebruik van de AI-chatbot daarnaast niet in lijn met de Nederlandse wet- en regelgeving.