Tweederde van de Nederlandse bedrijven maakt zich zorgen over de impact van AI op cybersecurity

Uit het onderzoek blijkt dat organisaties AI weliswaar beschouwen als een strategische technologie om hun beveiligingsstrategieën te versterken, maar ook dat de toegenomen toepassing van GenAI in verschillende sectoren[1] voor een verhoogde kwetsbaarheid zorgt. GenAI brengt drie belangrijke risicogebieden voor organisaties: geavanceerdere aanvallen met meer tegenstanders, de uitbreiding en toenemende complexiteit van cyberaanvallen en een toename van kwetsbaarheden in de volledige levenscyclus van op maat gemaakte GenAI-oplossingen. Deze risico's worden verergerd door het verkeerd gebruiken van AI en GenAI door werknemers, wat het interne aanvalsoppervlak aanzienlijk kan vergroten.

Twee op de drie Nederlandse organisaties maakt zich zorgen over de impact van AI op cybersecurity

Bijna alle ondervraagde organisaties (97%) geven aan dat ze in het afgelopen jaar te maken hebben gehad met inbreuken of beveiligingsproblemen die in verband staan met het gebruik van GenAI. Bovendien brengt GenAI ook extra risico's met zich mee, zoals AI-hallucinaties, discriminatie, schadelijke of ongepaste contentgeneratie en prompt injection attacks[2]. Twee van de drie Nederlandse organisaties maakt zich zorgen over datavergiftiging en het mogelijk lekken van gevoelige gegevens via de datasets die worden gebruikt om GenAI-modellen te trainen. Ook 70 procent van de bedrijven wereldwijd vreest voor datavergiftiging en mogelijke lekken.

Meer dan twee op de vijf ondervraagde Nederlandse organisaties geeft aan financiële verliezen te hebben geleden door criminelen die gebruik maakten van deepfakes. Bijna de helft van de ondervraagde Nederlandse organisaties denkt dat ze hun budget voor cybersecurity moeten verhogen om hun verdediging consequent te versterken.

AI en GenAI zijn van zeer groot belang voor het detecteren van en reageren op aanvallen

Van de Nederlandse organisaties die AI voor cybersecurity hebben overwogen of het al gebruiken, blijkt dat de meesten vertrouwen op AI om hun gegevens-, applicatie- en cloudbeveiliging te versterken. Dit vanwege het vermogen van deze technologie om snel enorme hoeveelheden gegevens te analyseren, patronen te identificeren en potentiële inbreuken te voorspellen.

Bijna 70% van de Nederlandse organisaties rapporteerde een vermindering van ten minste 5% in de time-to-detect en bijna 47% gaf aan dat de saneringstijd met 5% of meer daalde na de implementatie van AI in de Security Operations Centers (SOC's).

Drie op de vijf ondervraagde organisaties in Nederland is daarom van mening dat AI essentieel is voor een effectieve reactie op bedreigingen, zodat ze proactieve beveiligingsstrategieën kunnen implementeren tegen steeds geavanceerdere bedreigingsactoren. Daarnaast verwacht hetzelfde deel van de organisaties dat Gen AI proactieve strategieën zal versterken op de lange termijn, omdat bedreigingen sneller worden opgespoord. 47 procent van de Nederlandse organisaties denkt ook dat deze technologie cybersecurityanalisten in staat zal stellen om zich meer te concentreren op de strategie van het bestrijden van complexe bedreigingen.

"Het gebruik van AI en GenAI is tot nu toe een tweezijdig zwaard gebleken. Hoewel het ongekende risico's introduceert, vertrouwen organisaties steeds meer op AI voor snellere en nauwkeurigere detectie van cyberincidenten. AI en GenAI bieden beveiligingsteams krachtige nieuwe tools om deze incidenten te beperken en hun verdedigingsstrategieën te transformeren. Om ervoor te zorgen dat ze een netto voordeel hebben bij de toenemende groei van bedreigingen, moeten organisaties het beveiligingslandschap voortdurend blijven monitoren en hier prioriteit aan geven, de noodzakelijke infrastructuur voor gegevensbeheer, raamwerken en ethische richtlijnen voor de toepassing van AI opbouwen en robuuste trainings- en bewustzijnsprogramma's voor medewerkers opzetten", aldus Marco Pereira, Global Head Cybersecurity, Cloud Infrastructure Services, Capgemini.

Methodologie

Het Capgemini Research Institute onderzocht 1.000 organisaties wereldwijd die AI hebben overwogen voor cybersecurity of het al gebruiken, verdeeld over 12 sectoren en 13 landen in Azië-Pacific, Europa en Noord-Amerika. Deze organisaties hebben een jaaromzet van 1 miljard dollar of meer. In Nederland zijn 60 organisaties onderzocht. Het wereldwijde onderzoek vond plaats in mei 2024. De onderzochte organisaties vertegenwoordigen een breed scala aan sectoren, waaronder de auto-industrie; consumentenproducten; detailhandel; banken; verzekeringen; telecom; energie en nutsvoorzieningen; lucht- en ruimtevaart; defensie; high-tech; productie van industriële apparatuur; farmaceutische industrie; gezondheidszorg en de publieke sector.

NOTEN

[1] Bijna een kwart (24%) van de organisaties heeft GenAI-mogelijkheden ingeschakeld in sommige of de meeste van hun functies en locaties - Capgemini Research Institute, "Harnessing the value of generative AI 2nd edition: Top use cases across sectors," juli 2024.

[2] Dit houdt in dat kwaadaardige input wordt gebruikt om AI en GenAI-modellen te manipuleren, waardoor hun integriteit wordt aangetast.