Eerste door ChatGPT ontwikkelde schadelijke tools duiken op

Check Point Research (CPR) ziet de eerste gevallen van cybercriminelen die ChatGPT gebruiken om kwaadaardige tools te ontwikkelen. Op hackforums creëren bedreigingsactoren infostealers, coderingstools en faciliteren ze fraudeactiviteiten. CPR waarschuwt voor de snel groeiende interesse in ChatGPT door cybercriminelen en deelt drie recente voorbeelden van de ontwikkeling en het delen van kwaadaardige tools met behulp van ChatGPT.

Voorbeeld 1: Infostealer maken

Op 29 december 2022 verscheen een thread met de naam "ChatGPT - Benefits of Malware" op een populair hackforum. De oprichter van de thread onthulde dat hij aan het experimenteren was met ChatGPT om malwarefamilies en -technieken na te bootsen die worden beschreven in onderzoekspublicaties en artikelen over veelvoorkomende malware.

De berichten leken gericht op minder technisch bekwame cybercriminelen met het doel hen te laten zien hoe ze ChatGPT voor kwaadaardige doeleinden kunnen gebruiken, met echte voorbeelden die onmiddellijk kunnen worden ingezet

Afbeelding 1. Cybercrimineel laat zien hoe hij infostealer heeft gemaakt met ChatGPT

Voorbeeld 2: een meerlagige coderingstool maken

Op 21 december 2022 plaatste een bedreigingsactor genaamd USDoD een Python-script voor een meerlaagse versleutelingstool, waarbij hij benadrukte dat het het ‘eerste script was dat hij ooit heeft gemaakt’. Toen een andere cybercrimineel opmerkte dat de stijl van de code lijkt op OpenAI-code, bevestigde USDoD dat de OpenAI hem een "leuke [helpende] hand gaf om het script met een mooie strekking af te ronden".

Dit zou kunnen betekenen dat potentiële cybercriminelen die weinig tot geen ontwikkelingsvaardigheden hebben, ChatGPT kunnen gebruiken om kwaadaardige tools te ontwikkelen en een volwaardige cybercrimineel met technische capaciteiten te kunnen worden.

Alle bovengenoemde code kan natuurlijk op een goedaardige manier worden gebruikt. CPR geeft aan dat dit script echter ook eenvoudig kan worden aangepast om iemands machine volledig te versleutelen zonder enige tussenkomst van de gebruiker. Het kan de code bijvoorbeeld in ransomware veranderen als de script- en syntaxisproblemen zijn opgelost.

Afbeelding 2. Cybercrimineel genaamd USDoD publiceert meerlaagse versleutelingstool

Voorbeeld 3: ChatGPT faciliteert fraude-activiteiten

In een derde voorbeeld dat CPR deelt, laat een cybercrimineel zien hoe er met ChatGPT scripts voor een dark web-marktplaats kunnen worden gemaakt. De belangrijkste rol van de marktplaats in de illegale economie is het bieden van een platform voor de geautomatiseerde handel in illegale of gestolen goederen, zoals gestolen accounts of betaalkaarten, malware of zelfs drugs en munitie, waarbij alle betalingen in cryptocurrencies plaatsvinden.

Afbeelding 3. Bedreigingsactor gebruikt ChatGPT om dark web-scripts te maken

“Cybercriminelen vinden ChatGPT aantrekkelijk. De afgelopen weken zien we aanwijzingen dat hackers het beginnen te gebruiken om kwaadaardige code te schrijven. ChatGPT heeft de potentie om het proces voor hackers te versnellen door ze een goed startpunt te geven. Net zoals ChatGPT goed kan worden gebruikt om ontwikkelaars te helpen bij het schrijven van code, kan het ook worden gebruikt voor kwaadaardige doeleinden”, zegt Zahier Madhar, security engineer expert bij Check Point. “Hoewel de tools die we nu zien vrij eenvoudig zijn, is het slechts een kwestie van tijd voordat meer geavanceerde bedreigingsactoren de manier verbeteren waarop ze op AI-gebaseerde tools gebruiken. CPR zal de komende weken ChatGPT-gerelateerde cybercriminaliteit blijven onderzoeken.”