Google: Buitenlandse aanvallers experimenteren met inzet Gemini
Google zegt dat buitenlandse groepen van onder meer Noord-Korea, China en Iran zijn AI-tools gebruiken voor cyberaanvallen. Al is het nog niet zo geavanceerd als soms wordt gevreesd.
In haar Threat Intelligence Group rapport zegt het bedrijf dat groepen gelinkt aan de Chinese, Russische, Iraanse en Noord-Koreaanse overheden Gemini voor malafide doeleinden proberen te gebruiken.
'Nog geen gamechanger'
‘AI kan een nuttige tool zijn voor gevaarlijke spelers, maar het is nog niet de gamechanger waarvoor het soms wordt voorgesteld,’ zegt Google in het rapport. Het gaat om het genereren van content, problemen oplossen en onderzoek, niet om het ontwikkelen van nieuwe capaciteiten.
Google identificeerde de verschillende groepen niet enkel op hun IP-adressen, maar ook op patronen en technische signalen. Algemeen genomen wordt generatieve AI dus wel gebruikt voor malafide doeleinden, maar nog niet in extreme scenario’s. Situaties waarbij malware wordt gemaakt door het aan een AI-chatbot te vragen, lijken nog niet voor meteen.
Iran is meest actief
Iran is volgens Google het meest actief als het aankomt op malafide gebruik van Gemini. Het bedrijf identificeert tien groepen uit het land, waaronder hackersgroep APT42, maar van alle malafide activiteit zou 75 procent uit Iran komen. De AI van Google wordt door hen onder meer gebruikt om gerichte phishinginhoud te maken. Andere groepen focussen dan weer specifiek op onderzoek rond Android.
Google identificeerde ook twintig groepen gelinkt aan China. Ook hier gaat het om het genereren van inhoud voor malafide doeleinden, in combinatie met onderzoek naar Amerikaanse instituten. Volgens Google gebruiken de chinese groepen ook de AI van Microsoft hiervoor.
Noord-Koreanen richten zich op sollicitaties
Noord-Korea lijkt een andere insteek te hebben. Ook hier wordt er met Gemini gezocht naar mogelijke doelwitten of ondersteuning in een cyberaanval. Maar het bedrijf gebruikt de tool ook om op vacatures te reageren en zo Noord-Koreanen (van op afstand) bij Westerse bedrijven binnen te krijgen. Zo wordt er gezocht naar freelancer forums. Daarnaast zoeken hackers uit het land ook naar info over het Zuid-Koreaanse leger en nucleaire technologie.
Rond Rusland kon Google slechts drie groepen identificeren. Het vermoedt dat het gebruik van grote taalmodellen er minder populair is, of dat er in het land vaker lokale LLM’s worden gebruikt in plaats van de diensten van Google of andere AI-spelers.
In samenwerking met Data News
