SANS introduceert Critical AI Security Guidelines v1.0 raamwerk

 De richtlijnen worden gepresenteerd tijdens de SANS AI Summit 2025 van maandag 31 maart en richten zich op Access Controls, Data Protection, Deployment Strategies, Inference Security, Monitoring en Governance, Risk & Compliance.

Deze zes deelgebieden zijn ontworpen om securityteams richtlijnen te bieden voor het beschermen van AI-systemen. Elke sectie bevat aanbevelingen om te helpen bij het identificeren, beperken en beheren van de risico’s die met AI-technologieën gepaard gaan. Eenmaal gepubliceerd, staan de richtlijnen open voor feedback. Zo kunnen professionals, onderzoekers en cybersecurityleiders bijdragen naarmate bedreigingen zich ontwikkelen en nieuwe best practices ontstaan.

"We zien dat organisaties onder meer taalmodellen en retrieval-augmented generation sneller implementeren dan ze kunnen beveiligen," zegt Rob T. Lee, Chief of Research en medevoorzitter van de SANS AI Summit. "Deze richtlijnen zijn afgestemd op de huidige stand van zaken in het veld. Ze zijn niet theoretisch maar geschreven voor iedereen die systemen vandaag moet beschermen."

Tools

Nu AI-technologieën een centrale rol spelen in alle aspecten van bedrijfsvoering, is de behoefte aan open-source hulpmiddelen om beveiligingsteams te ondersteunen en AI te beschermen groter dan ooit. Om hierop in te spelen, heeft SANS via de SANS AI Cybersecurity Hackathon de securitygemeenschap uitgedaagd om open-source tools te ontwikkelen die direct aansluiten op nieuwe beveiligingsrichtlijnen. Bij dit evenement werden deelnemers gevraagd naar innovatieve oplossingen voor het beschermen van AI-modellen, de verdediging tegen adversarial attacks en het aanpakken van andere AI-specifieke kwetsbaarheden. De tools die tijdens de hackathon werden ontwikkeld, worden tijdens de AI Summit gepresenteerd.

Hackathon

"We hebben meer mensen nodig die begrijpen hoe AI onder de motorkap werkt en hoe je het kunt verdedigen," voegt Kate Marshall toe, SANS AI Hackathon Director en medevoorzitter van de SANS AI Summit. "De hackathon maakt nu al een verschil. Het gaat niet alleen om het creëren van tools maar ook om het ontdekken van talent." De hackathon is een belangrijke stap in het aanpakken van het groeiende tekort aan AI-securityvaardigheden. Deelnemers krijgen praktijkervaring en directe begeleiding van toonaangevende AI-securityexperts. Gezien de toenemende vraag naar deze professionals zijn initiatieven zoals deze cruciaal om een goed opgeleide talentenpool te creëren. Winnende tools worden daarbij een integraal onderdeel van de implementatie van de AI-beveiligingsrichtlijnen binnen organisaties.

Rob Lee besluit: "We zijn op een punt gekomen waarop dit soort initiatieven niet langer optioneel zijn. De industrie heeft behoefte aan een centraal punt om AI-security te verbeteren. We hebben echte controles nodig. Echte tools én een manier om de vaardigheden te ontwikkelen die nodig zijn om de wereld te beschermen."