AI zorgt voor razendsnelle ontwikkeling dreigingslandschap

2025 wordt het jaar van AI-agents en multi-agentsystemen, stelt Nicole Carignan, VP of strategic Cyber AI. Na de aanzienlijke vooruitgang in generatieve AI in 2022 en 2023, zagen we in 2024 een grotere focus op innovatie en ontwikkeling van AI-agents; autonome AI-systemen die zijn ontworpen om specifieke taken uit te voeren. In 2025 gaan we steeds meer use cases zien waarin verschillende autonome AI-agents samenwerken om complexere taken op te pakken.

Een multi-agentsysteem kan efficiënter werken, communiceren en interacteren dan een single-agentsysteem. Zonder duidelijke communicatiegrenzen en expliciete machtigingen kan dit echter ook een risico vormen voor de privacy van gegevens. Daarnaast zal het toenemend gebruik van multi-agentsystemen nieuwe aanvalsvectoren en kwetsbaarheden introduceren die kunnen worden uitgebuit als ze niet vanaf het begin direct goed worden beveiligd. Risico’s zijn bijvoorbeeld datavergiftiging, promptinjectie of social engineering om het gedrag van AI-agents te beïnvloeden. Er is al bewijs dat cybercriminelen AI-agents en generatieve AI gebruiken voor e-mailphishing en verkenning. Het volgende doelwit zijn multi-agentsystemen die zijn gespecialiseerd in taken zoals bewaking, initiële toegangsbemiddeling, escalatie van privileges, de exploitatie van kwetsbaarheden en meer.

Dit zijn geen problemen die alleen met traditionele applicatietesten kunnen worden aangepakt. Daarom zijn er vanaf het begin robuuste beveiligingsmaatregelen en gegevensbeveiliging nodig om te voorkomen dat deze systemen worden misbruikt en op hol slaan. In 2025 zouden we verder de eerste toepassingen kunnen zien van multi-agents binnen cyberbeveiliging, waaronder incident response. Voorbeelden zijn het samenvatten en visualiseren van incidenten, evenals het genereren van rapporten. Een andere innovatieve use case is het gebruik van multi-agentsystemen voor het testen van applicaties om kwetsbaarheden te detecteren.

Aanvallers richten zich op persoonlijke AI-agents

Persoonlijke AI-agents worden een nieuw doelwit van hackers, voorspelt Nicole Carignan, VP of strategic Cyber AI. Apple, Google en Samsung promoten allemaal AI-agents op onze mobiele telefoons die beloven verschillende aspecten van ons leven met elkaar te verbinden en perfecte persoonlijke assistenten te worden. Naarmate we de komende 1-2 jaar de acceptatie van dergelijke AI-agents zien toenemen, worden ze ook een goudmijn van vertrouwelijke gegevens waarvan we vaak niet eens wisten dat we ze deelden. Deze agents kunnen toegang hebben tot alles, van persoonlijke accounts tot bedrijfsnetwerken. In extreme gevallen gebruiken mensen AI als hun beste vriend of therapeut, waarbij ze informatie delen die gemakkelijk op een zeer persoonlijk niveau kan worden uitgebuit door iemand die toegang heeft tot de gegevens. Dit maakt het een ideaal doelwit voor cybercriminelen.

Hoewel de veiligheidsnormen voor persoonlijke AI-agents nog moeten worden vastgesteld, zijn strikte communicatiegrenzen, toegangscontroles, encryptie en bescherming tegen het delen van deze gegevens cruciaal om ons te verdedigen tegen dit type uitbuiting.

Rekenkracht als bepalende factor voor AI-acceptatie en -innovatie

Toegang tot rekenkracht wordt een bepalende factor voor AI-acceptatie en -innovatie, verwacht Director of R&D Hanah Darley. Naast het feit dat ze veel data verbruiken, zijn generatieve AI-modellen extreem rekenintensief. We zien nu al dat dit voor veel belasting zorgt in het datacenter. Naarmate de acceptatie van AI in 2025 blijft toenemen, zal toegang tot de dure en schaarse rekenkracht die nodig is om deze modellen te laten draaien, een belangrijk beleidspunt zijn met wereldwijde geopolitieke implicatie, met name tussen de VS en China. Toegang tot rekenkracht wordt ook direct beïnvloed door energiekosten en lokale wetgeving die per land en regio verschillen. Dit zal de AI-kloof verder vergroten. Niet alleen tussen rijke westerse landen en ontwikkelingsregio’s zoals Afrika, maar ook tussen geavanceerde economieën.

We verwachten verder dat datacenters vaker worden aangemerkt als kritieke infrastructuur. In 2024 classificeerde het Verenigd Koninkrijk datacenters als kritieke nationale infrastructuur en naar verwachting volgen andere landen dit voorbeeld. Zonder stabiele, toegankelijke computing kunnen mensen niet volledig, of slechts zeer beperkt, profiteren van de voordelen van stabiele AI-systemen.

Identiteits- en toegangsbeheer blijft probleem

Identiteits- en toegangsbeheer blijft een groot probleem, voorspelt Darley. In 2024 vonden enkele van de grootste en duurste aanvallen ooit plaats. Allemaal omdat een aanvaller toegang had tot gecompromitteerde inloggegevens. Identiteitsuitdaging is volgens Darley nog niet voldoende aangepakt en dat wordt alleen maar complexer nu we midden in een enorme SaaS-migratie zitten, gedreven door het toenemende gebruik van AI en de cloud. Het is geen geheim dat het beveiligen van identiteiten ver achterloopt op de innovatie bij aanvallers. Deze uitdaging zal in 2025 nog groter worden nu overheden, met name de EU, blijven toebewegen naar digitale identiteiten.

Nu organisaties zich steeds vaker richten op gecentraliseerde identiteiten en toegang met gedecentraliseerde infrastructuur als reactie op schaaluitdagingen, is deze uitdaging belangrijker dan ooit om moderne organisaties te beveiligen. Om identiteitsgebaseerde beveiligingsproblemen effectief aan te pakken, is het voor bedrijven belangrijk om een zero trust-model te adopteren.

Security in de ruimte belangrijker dan ooit

Het beveiligen van infrastructuur en systemen in de ruimte wordt belangrijker dan ooit, verwacht VP of Threat Research Nathaniel Jones. De ruimtevaartindustrie groeit ongelooflijk snel en 2025 lijkt een nieuw recordjaar te worden met grote missies en testvluchten gepland door NASA, ESA, CNSA en de verwachte lancering van het eerste commerciële ruimtevaartstation. Onderzoek van Analysis Mason suggereert dat er tegen 2033, 38.000 extra satellieten zullen worden gebouwd en gelanceerd en dat de wereldwijde inkomsten van de ruimtevaartindustrie tegen 2032, $1,7 biljoen zullen bedragen.

In 2025 verwacht Jones een nieuw spanningsveld te zien nu private en publieke infrastructuren elkaar steeds meer kruisen in de ruimte. Dit werpt licht op het gebrek aan cybernormen en de toenemende uitdaging om complexe en afgelegen ruimtesystemen te beschermen tegen cyberdreigingen. De ruimtevaartindustrie, die zich historisch gezien richtte op het beveiligen van aardgebonden netwerken en omgevingen, zal voor uitdagingen komen te staan naarmate post-orbitdreigingen toenemen en satellieten hoger op de lijst met doelwitten komen te staan.

De NIS2-richtlijn erkent de ruimtevaartsector als een essentiële entiteit die onderworpen is aan de strengste cybersecurityvereisten. Jones verwacht dat wereldwijde debatten over cyberkwetsbaarheden in de ruimte vaker op de voorgrond zullen treden naarmate we afhankelijker worden van op de ruimte gebaseerde technologie.

Total addressable market bereikt nieuw hoogtepunt

De total addressable market (TAM) van cybercriminaliteit bereikt in 2025 een nieuw hoogtepunt, voorspelt Jones. In 2025 zal het omzetpotentieel voor cybercriminelen wereldwijd nieuwe hoogten bereiken door de adoptie van AI en de verkoop van cybercrime-as-a-service. Ten eerste betekent de aanhoudende groei van apparaten en systemen dat bestaande malwarefamilies succesvol zullen blijven. Naar schatting hebben in oktober 2024 meer dan 5,52 miljard mensen (~67%) toegang tot internet. Bronnen schatten dat er tegen eind 2024, 18,8 miljard verbonden apparaten zullen zijn. Daarnaast zal de acceptatie van AI naar verwachting nog meer onderling verbonden systemen, nieuwe datacenters en infrastructuur opleveren.

Tegelijkertijd hebben low-level cybercriminelen meer geavanceerde middelen beschikbaar dan ooit tevoren. Er zal dan ook een aanzienlijke toename zijn in de beschikbaarheid van RaaS en MaaS, waardoor geavanceerde tactieken de norm worden. De inkomsten uit abonnementen aangeboden door groepen cybercriminelen, maken vervolgens nieuwe vijandige innovatie mogelijk. Hierdoor worden aanvallen nog sneller en effectiever, met nog grotere financiële gevolgen voor organisaties.

Insider threats dwingen tot zero trust-strategieën

Insider threats dwingen organisaties om zero trust-strategieën te ontwikkelen, voorspelt CEO van Darktrace Federal en SVP Strategic Engagements and Threats Marcus Fowler. In 2025 zullen onstabiele geopolitieke situaties en de intensiteit van de AI-race, insider threats een nog groter risico maken. Organisaties moeten daarom hun zero trust-strategieën uitbreiden. Het traditionele zero trust-model zorgt voor bescherming tegen externe dreigingen door continue verificatie te vereisen van apparaten en gebruikers die proberen toegang te krijgen tot kritieke bedrijfssystemen, services en informatie. Zoals we echter hebben gezien in gevallen als Snowden of recent Jack Teixeira, kunnen kwaadwillendenden nog steeds aanzienlijke schade toebrengen aan een organisatie binnen hun goedgekeurde en geauthenticeerde grenzen.

Om resterende beveiligingslekken in een zero trust-architectuur te omzeilen en het toenemende risico op insider threats te beperken, zullen organisaties een module voor gedrag moeten integreren in hun zero trust-benaderingen. De best practice van ‘never trust, always verify’ zal evolueren naar ‘never trust, always verify, continuously monitor’.

Hacken van OT wordt eenvoudiger

Het hacken van OT wordt makkelijker, voorspelt Director of Product and OT Oakley Cox. Het hacken van operationele technologie (OT) is notoir complex. Om schade te veroorzaken is een grondige kennis nodig van specifieke systemen. Dit was historisch gezien voorbehouden aan natiestaten. Maar nu OT vaker afhankelijk is van en geïntegreerd is met IT-systemen, hebben aanvallers nieuwe mogelijkheden om verstoringen te veroorzaken. Enkele van de meest verstorende aanvallen van het afgelopen jaar kwamen van hacktivisten en financieel gemotiveerde criminele bendes, zoals de kaping van aan internet blootgestelde Programmable Logic Controllers (PLC’s) door anti-Israëlische hackgroepen. Dit resulteerde in het afzeggen van verschillende ziekenhuisactiviteiten.

In 2025 verwacht Cox een toename van cyberfysieke verstoringen die worden veroorzaakt door dreigingsgroepen die worden gemotiveerd door politieke ideologie of financieel gewin. Hierdoor komt het OT-dreigingslandschap qua complexiteit en schaal dichter bij dat van het IT-landschap. De sectoren die het grootste risico lopen, zijn de sectoren die sterk afhankelijk zijn van IoT-sensoren, waaronder de gezondheidszorg, transport en productie.