Impact van AI, automatisering en cybercrime-as-a-service groeit

Dit blijkt uit onderzoek van Darktrace binnen hun klantenbestand. Darktrace houdt trends bij op basis van zijn wereldwijde klantenbestand om te begrijpen hoe de uitdagingen waarmee beveiligingsteams worden geconfronteerd zich ontwikkelen naast de vooruitgang in de AI in de sector.

Het aantal ‘novel social engineering’-aanvallen – phishing-aanvallen die geavanceerder taalgebruik en interpunctie gebruiken dan een typische phishing-e-mail – is tussen september en december 2023 met 35 procent gegroeid. Dit volgt op gegevens die eerder door Darktrace zijn vrijgegeven waaruit blijkt dat deze aanvallen Darktrace meldde eerder al dat in januari en februari deze aanvallen vorig jaar gemiddeld met 135 procent zijn toegenomen.

Deze groei viel samen met de brede adoptie van ChatGPT. De voortdurende toename van deze geavanceerde technieken suggereert dat aanvallers vaker generatieve AI-tools gebruiken om hun aanvallen krachtiger te maken.

Aantal aanvallen stijgt

Klanten van Darktrace ontvingen alleen al in december 2.867.000 phishing-e-mails, een stijging van 14 procent ten opzichte van september.

Naast de cijfers op basis van onderzoek binnen het eigen klantenbestand, blijkt uit ander onderzoek uitgevoerd in opdracht van Darktrace onder 1773 IT-professionals dat 89 procent van de wereldwijd ondervraagde IT-beveiligingsteams gelooft dat AI-aangedreven cyberdreigingen de komende twee jaar een aanzienlijke impact zullen hebben op hun organisatie. Dit terwijl 60 procent denkt dat ze momenteel niet voorbereid zijn om zich tegen deze aanvallen te verdedigen. Hun zorgen hebben onder meer te maken met het toegenomen volume en de verfijning van malware die zich richt op bekende kwetsbaarheden. De toegenomen blootstelling van gevoelige of bedrijfseigen informatie door het gebruik van generatieve AI-tools is tevens een punt van zorg.

AI-bedreigingen zijn prioriteit

AI-bedreigingen zijn, naarmate het aantal toeneemt, een prioriteit geworden voor beveiligingsteams. Ze vragen zich af of hun organisaties hierop voorbereid zijn. In nieuwe onderzoeksgegevens die Darktrace vandaag ook publiceert, zijn meer dan 1.700 beveiligingsexperts over de hele wereld ondervraagd om te begrijpen hoe zij deze uitdaging ervaren:

• 89 procent van de IT-beveiligingsexperts is van mening dat AI-gerelateerde cyberdreigingen de komende twee jaar een aanzienlijke impact op hun organisatie zullen hebben.
• Toch gelooft 60 procent dat ze momenteel niet voorbereid zijn om zich tegen deze aanvallen te verdedigen.

Hun twee grootste zorgen, beide door de respondenten beoordeeld met een score van 3,84, op een risicoschaal van 1 tot 5, zijn:

• Toegenomen volume en verfijning van malware-aanvallen – zoals die geleverd door phishing-e-mails – die zich richten op bekende kwetsbaarheden in software.
• Gebruik van generatieve AI-tools door werknemers, waardoor gevoelige gegevens gelekt kunnen worden.

Steeds groter aandeel van as-a-service-aanvallen

De toenemende acceptatie van AI draagt bij aan de impact die automatisering en as-a-service-aanvallen al hebben op de dreigingen waarmee organisaties worden geconfronteerd. Uit het Darktrace Threat Report, dat in januari 2024 is uitgebracht, blijkt dat as-a-service-aanvallen, die cybercriminelen van kant-en-klare malware tot sjablonen voor phishing-e-mails, betalingsverwerkingssystemen en zelfs hulplijnen voorzien, het merendeel van de aanvallen vormen.

Poppy Gustafsson, CEO van Darktrace: “We blijven zien dat de ontwikkelingen in cybercriminaliteit snel evolueren in uitdagende geopolitieke omstandigheden en dat de brede beschikbaarheid van generatieve AI-instrumenten de toetredingsdrempel voor vijandige actoren verlaagt. In de komende periode bereiden we ons voor op de uitrol van verbeterde markt- en productpositionering om beter te demonstreren hoe onze unieke AI organisaties kan helpen nieuwe dreigingen in hun gehele technologische voetafdruk aan te pakken.”

Meer informatie is beschikbaar in een blogpost van Max Heinemeyer, Chief Product Officer bij Darktrace, die dieper ingaat op de bevindingen.