TNO en NCSC belichten toekomst van cyberaanvallen met Large Language Models
TNO en het NCSC hebben een verkenning gedaan om te pogen de impact van Large Language Models (LLM’s), onderliggende technologie voor bijvoorbeeld chatGPT, op het cyberdreigingslandschap meetbaar te maken en te kunnen monitoren op de middellange termijn (3 tot 5 jaar van nu).
Door middel van de Signposts of Change methode, geleend uit de inlichtingenwereld, zijn er scenario’s verkend van de toekomstige dreigingen; inclusief indicatoren die aangeven of dit scenario zich manifesteerd. Zo kan bijvoorbeeld verwacht worden dat het C2 verkeer er anders uit gaat zien wanneer exploitatie geautomatiseerd wordt door LLM’s.
Door een onderscheid te maken tussen evolutionaire en revolutionaire verandering van de dreiging kan worden gekeken of LLM’s alleen bestaande dreigingen verandere of ook fundamenteel nieuwe dreigingen veroorzaken. \
Om deze verkenning te aarden in de werkelijke capabiliteiten van LLM’s is er een overzicht gemaakt van de geschiktheid van LLM’s om te helpen bij cyberaanvallen (aan de hand van het MITRE ATT&CK raamwerk) op basis van een review van de LLM literatuur.
Overzicht
Dit overzicht vormt de basis voor de eerdergenoemde scenario’s en kan het startpunt zijn voor een sector- of organisatiespecifieke analyse van de toekomstige impact van LLM’s op cyberveiligheid.
Download in Engels: 'The future of cyber attacks with Large Language Models'
Meer over LLM
Over Witold Kepinski
