Wouter Hoeffnagel - 17 februari 2025

Gartner: 'Onbedoelde data-overdracht door GenAI gaat tot steeds meer datalekken leiden'

Tegen 2027 wordt meer dan 40% van AI-gerelateerde datalekken veroorzaakt door onjuist gebruik van generatieve AI (GenAI) over landsgrenzen heen, voorspelt Gartner. De snelle adoptie van GenAI-technologieën door eindgebruikers gaat sneller dan de ontwikkeling van databeheer- en beveiligingsmaatregelen. Dit roept zorgen op over gegevenslokalisatie, aangezien er gecentraliseerde rekenkracht nodig is om deze technologieën te ondersteunen.

Generatieve ai Artificial intelligence

Gartner: 'Onbedoelde data-overdracht door GenAI gaat tot steeds meer datalekken leiden' image

"Onbedoelde grensoverschrijdende gegevensoverdracht komt vaak voor door onvoldoende toezicht, vooral wanneer GenAI wordt geïntegreerd in bestaande producten zonder duidelijke beschrijvingen of aankondigingen," zegt Joerg Fritsch, VP-analist bij Gartner. "Organisaties merken veranderingen in de inhoud die werknemers produceren met GenAI-tools. Hoewel deze tools kunnen worden gebruikt voor goedgekeurde zakelijke toepassingen, brengen ze beveiligingsrisico’s met zich mee als gevoelige gegevens worden ingevoerd in AI-tools en API’s die worden gehost op onbekende locaties."

Gebrek aan wereldwijde AI-standaardisatie leidt tot operationele inefficiëntie

Het ontbreken van uniforme wereldwijde standaarden en best practices voor AI en gegevensbeheer vergroot de uitdagingen. Dit veroorzaakt marktfragmentatie en dwingt bedrijven om regio-specifieke strategieën te ontwikkelen. Hierdoor kan hun vermogen om wereldwijd op te schalen worden beperkt en kunnen ze minder profiteren van AI-producten en -diensten.

"De complexiteit van het beheren van gegevensstromen en het waarborgen van kwaliteit door lokale AI-beleidsmaatregelen kan leiden tot operationele inefficiënties," zegt Fritsch. "Organisaties moeten investeren in geavanceerd AI-beheer en beveiliging om gevoelige gegevens te beschermen en te voldoen aan regelgeving. Deze behoefte gaat waarschijnlijk de groei stimuleren van markten voor AI-beveiliging, -beheer en -naleving, evenals technologieën die transparantie en controle over AI-processen verbeteren."

Organisaties moeten actie ondernemen voordat AI-beheer wereldwijd verplicht wordt

Gartner voorspelt dat tegen 2027 AI-beheer een vereiste is in alle nationale AI-wetten en -regelgevingen wereldwijd. "Organisaties die vereiste beheerstructuren en controles niet kunnen implementeren, lopen het risico op een concurrentienadeel, vooral als ze niet de middelen hebben om bestaande databeheerframeworks snel uit te breiden," zegt Fritsch.

Om AI-datalekken, vooral door grensoverschrijdend misbruik van GenAI, te beperken en te voldoen aan regelgeving raadt Gartner verschillende strategische acties aan:

Versterk databeheer: Zorg voor naleving van internationale regelgeving en monitor onbedoelde grensoverschrijdende gegevensoverdracht. Breid databeheerframeworks uit met richtlijnen voor door AI verwerkte gegevens. Dit omvat het opnemen van gegevensherkomst en impactanalyses van gegevensoverdracht binnen reguliere privacy-effectbeoordelingen.
Stel toezichtscommissies in: Richt commissies op om AI-toezicht te versterken en transparantie te waarborgen bij AI-toepassingen en gegevensverwerking. Deze commissies moeten verantwoordelijk zijn voor technisch toezicht, risico- en nalevingsbeheer en communicatie over beslissingen.
Versterk gegevensbeveiliging: Gebruik geavanceerde technologieën, encryptie en anonimisering om gevoelige gegevens te beschermen. Controleer bijvoorbeeld Trusted Execution Environments in specifieke geografische regio’s en pas geavanceerde anonimiseringstechnologieën toe, zoals Differential Privacy, wanneer gegevens deze regio’s verlaten.
Investeer in TRiSM-producten: Plan en reserveer budgetten voor Trust, Risk en Security Management (TRiSM)-oplossingen die specifiek zijn afgestemd op AI-technologieën. Dit omvat AI-beheer, databeveiliging, filtering en redactie van invoerprompts, en de synthetische generatie van ongestructureerde gegevens. Gartner voorspelt dat tegen 2026 bedrijven die AI TRiSM-controles toepassen minstens 50% minder onjuiste of ongepaste informatie zullen gebruiken, wat foutieve besluitvorming vermindert.

Gartner-klanten kunnen meer leren in het rapport "Predicts 2025: Privacy in the Age of AI and the Dawn of Quantum." Meer informatie over hoe organisaties AI optimaal kunnen benutten en tegelijkertijd risico’s kunnen beheren is te vinden in het gratis e-book "AI in Cybersecurity: Minimize Risks and Maximize Impact."

Gartner Security & Risk Management Summit

Gartner-analisten presenteren het nieuwste onderzoek en advies voor leiders op het gebied van beveiliging en risicobeheer op de Gartner Security & Risk Management Summits. Deze vinden plaats op: