Hoe zit het met de beveiliging van AI-agents?

"Machine learning (ML) en deep learning zijn AI-technieken die al lange tijd worden gebruikt in cyberdefensie, bijvoorbeeld om patronen te herkennen in grote hoeveelheden data en anomalieën te spotten die kunnen duiden op een beveiligingsincident. Voor aanvallers kunnen deze methoden echter te veel expertise en menselijke begeleiding vereisen om echt een verschil te maken. Sterker nog, hoewel AI waarschijnlijk helpt om veel stappen in de aanvalsketen te vergemakkelijken of te automatiseren, is de aard van deze aanvallen voor zover ik weet tot nu toe niet fundamenteel veranderd en lijken ze dus niet “gevaarlijker” te worden, maar alleen toegankelijker en winstgevender.

Nieuwe perspectieven

Generatieve AI, zoals modellen gebaseerd op GPT (Generative Pretrained Transformer), is ontworpen om complexe gegevens zoals afbeeldingen of tekst te verwerken en nieuwe inhoud te creëren op basis van patronen in de gegevens waarop het getraind is. Hoewel deze technologie een natuurlijke evolutie is van traditionele deep learning-modellen, heeft het nieuwe perspectieven geopend: het vermogen om inhoud te verwerken en te genereren op een menselijke manier maakt het een transformatief hulpmiddel voor creativiteit en taakautomatisering. Terwijl GenAI beperkt is tot het reageren op input, gaat Agentic AI een stap verder door generatieve capaciteiten te combineren met besluitvorming, waardoor systemen acties kunnen ondernemen en zich dynamisch kunnen aanpassen - wat een nieuw tijdperk van proactieve AI inluidt.

Agentic AI is een krachtige technologie met veel potentieel, maar het vermogen om geavanceerde cyberaanvallen te beheren blijft waarschijnlijk een illusie. Dit soort taken berust op pure logica en vereist een hoge mate van precisie en heimelijkheid, terwijl generatieve methoden inherent vatbaar zijn voor benaderingen en sterke redeneercapaciteiten missen. Dit maakt het moeilijk om menselijke supervisie te vervangen door AI bots in dit domein, en als zodanig lijken volledig autonome hacking agents voorlopig nog een brug te ver.

Aan de andere kant, als de technologie zich blijft ontwikkelen, zou generatieve en agentische AI een steeds belangrijkere ondersteunende rol kunnen spelen voor defensie, bij het simuleren van aanvallen en het automatiseren van bedreigingsintelligentie."