'Betrouwbaarheid' AI focus van nieuw onderzoek Amerikaanse regering
Een bureau van het Amerikaanse ministerie van Handel opent een onderzoek naar hoe bedrijven en toezichthouders ervoor kunnen zorgen dat kunstmatige-intelligentiesystemen betrouwbaar, legaal en ethisch zijn. Het onderzoek, uitgevoerd door de National Telecommunications and Information Administration (NTIA), richt zich op de beste methoden voor het auditen van AI-systemen en zal uiteindelijk beleidsaanbevelingen moeten opleveren voor het Witte Huis en het Congres naarmate AI-technologie mainstream wordt.
"Het doel van dit proces is om aanbevelingen te doen, op basis van wat we horen van experts op dit gebied, over wat de overheid kan doen om ervoor te zorgen dat we verantwoorde AI-innovatie promoten", aldus Alan Davidson, het hoofd van NTIA, in een interview met Bloomberg.
Chatbots steeds meer mainstream
Chatbots - computerprogramma's die zijn ontworpen om op overtuigende wijze menselijke gesprekken te simuleren - worden snel een centraal onderdeel van het dagelijks leven. De snelle acceptatie van ChatGPT, momenteel de meest populaire chatbot, heeft duizenden AI-experts en -leiders ertoe aangezet tot een zes maanden durende ontwikkelpauze om eerst een goed juridisch en ethisch raamwerk voor AI-technologie op te zetten. Google en Microsoft hebben ondertussen hun eigen chatbots geïntroduceerd om gelijke tred te houden met ChatGPT van onderzoekslaboratorium OpenAI. Ook Meta introduceerde vorig jaar een chatbot.
NTIA nodigt bedrijven, maatschappelijke organisaties, onderzoekers en het publiek uit om mee te denken in het proces. Critici van AI zeggen dat toepassingen zoals chatbots real-world vooroordelen kunnen bestendigen, consumenten kunnen verwarren en misleiden, verkeerde informatie kunnen verspreiden en zelfs reeds bestaande wetten kunnen schenden als er geen goed toezicht is van de overheid en de industrie.
Normen rondom AI
Het NTIA-onderzoek is het meest recente initiatief van de Amerikaanse overheid om normen rond AI vast te stellen. De regering Biden publiceerde vorig jaar een blauwdruk voor een "AI Bill of Rights", waarin werd opgeroepen tot ingebouwde privacybescherming, strengere veiligheidsmaatregelen en controles tegen discriminatie.
Het National Institute of Standards and Technology heeft inmiddels vrijwillige AI-richtlijnen afgerond om ontwikkelaars aan te moedigen controles op hun systemen uit te voeren om het vertrouwen van het publiek in de technologie te vergroten. De Federal Trade Commission heeft al aangegeven dat het kijkt naar alle consumentenbescherming of antitrustgerelateerde kwesties rond AI.
Vertrouwen opbouwen
Davidson meent dat het NTIA-onderzoek 'een nieuwe laag' zal toevoegen aan het al bestaande werk van het Witte Huis en NIST, specifiek gericht op de beste manier om AI te controleren. "Dit onderzoek gaat over hoe we dat risicokader kunnen gebruiken om goede controle- en beoordelingspraktijken te bevorderen die mensen helpen de AI-systemen die bedrijven bouwen te vertrouwen."
Volgens het hoofd van de NTIA was het onderzoek al maanden aan de gang was voordat de ChatGPT-hype resulteerde in een publieke discussie over de toekomst van AI. Maar, voegt hij eraan toe, zijn bureau hoopt van dat momentum te profiteren.
Over Martijn Kregting
