Cisco introduceert AI Defense voor een veilig gebruik van kunstmatige intelligentie

Met AI Defense helpt Cisco zijn klanten om vlot en veilig met artificiële intelligentie te starten in hun organisatie. "Het nut en de snelheid van artificiële intelligentie zijn onmiskenbaar, maar je kunt geen oogje toeknijpen voor het potentiële cybergevaar", zegt Jeetu Patel, Executive Vice President en Chief Product Officer bij Cisco. "Daarom hebben we Cisco AI Defense verankerd in onze netwerksystemen. We detecteren snel potentiële bedreigingen zodat we klanten beschermen bij de ontwikkeling en het gebruik van AI-toepassingen."

AI-goudkoorts

Volgens Cisco's 2024 AI Readiness Index denkt minder dan een derde van de organisaties goed uitgerust te zijn om problemen met AI te detecteren en te voorkomen. De uitdagingen op het gebied van cyberveiligheid zijn dan ook nieuw en complex, met AI-toepassingen die verschillende modellen en verschillende clouds gebruiken. Kwetsbaarheden kunnen opduiken in de AI-applicatie maar ook in het AI-model waar het gebruik van maakt. Wanneer bedrijven niet de juiste securitymaatregelen toepassen, zullen de risico’s alleen maar toenemen naarmate ze die AI-modellen gaan trainen met eigen bedrijfsdata.

“Organisaties die met een soort gold rush-ambitie AI implementeren zonder gepaste cyberbeveiliging, kunnen kampen met hallucinaties, irrelevante antwoorden en securitykwetsbaarheden. Dat kan leiden tot financiële en reputatieschade”, waarschuwt Jan Heijdra (foto), Field CTO Security bij Cisco Nederland. “Om die kwetsbaarheden bloot te leggen, is inzicht nodig in het AI-gebruik door medewerkers en applicaties. De geautomatiseerde pentests door AI Defense geven organisaties de mogelijkheid om large language models doorlopend te testen. Zo kunnen ze de kwaliteit en betrouwbaarheid van AI in hun eigen processen waarborgen.”

AI Defense pakt twee risico’s aan

Om te innoveren met kunstmatige intelligentie, hebben ondernemingen een netwerklaag nodig die elke gebruiker en elke applicatie beschermt. Die netwerklaag geeft organisaties inzicht in de AI-toepassingen die gebruikmaken van het netwerk en en ook welke gebruikers toegang krijgen tot AI-tools in de cloud. AI Defense maakt de AI-transformaties van ondernemingen mogelijk door twee dringende risico's aan te pakken:

Veilige AI-toepassingen ontwikkelen en implementeren

Naarmate AI aan populariteit wint, zullen ondernemingen honderden, zoniet duizenden AI-toepassingen ontwikkelen en gebruiken. Voor ontwikkelaars is het dan eenvoudiger om te werken met één enkele set beveiligingstools voor al hun AI-toepassingen.

AI Defense helpt hen onder meer bij:

Alle AI-toepassingen in kaart te brengen: beveiligingsteams moeten begrijpen wie applicaties bouwt en welke trainingsbronnen ze gebruiken. AI Defense detecteert ‘shadow AI’ in publieke en private clouds.

AI Modelvalidatie: AI modellen kunnen hallucineren dat kan leiden tot fouten en onverwachte resultaten. Geautomatiseerde tests controleren AI-modellen op honderden potentiële veiligheids- en beveiligingsproblemen. Dit AI-gestuurd algoritmische ‘red team’ identificeert potentiële kwetsbaarheden aan de hand van pentests en raadt beveiligingsmechanismen aan in AI Defense.

Runtime-beveiliging: Continue validatie beschermt tegen potentiële beveiligingsbedreigingen zoals promptinjectie, denial of service en het lekken van gevoelige gegevens.

Toegang tot AI-toepassingen beveiligen

Nu eindgebruikers steeds meer AI-toepassingen inschakelen om meetings of teksten samen te vatten en algemeen hun productiviteit te verbeteren, moeten beveiligingsteams gegevenslekken en misbruik of aanpassingen van bedrijfseigen gegevens voorkomen.

AI Defense helpt hen onder meer bij:

Inzicht het gebruik van AI: AI Defense biedt een uitgebreid overzicht van ‘shadow’ en goedgekeurde AI-apps die werknemers gebruiken.

Toegangscontrole: AI Defense bepaalt regels die de toegang van werknemers tot niet-goedgekeurde AI-tools beperkt.

Bescherming van bedrijfsgevoelige data: Biedt continu bescherming tegen bedreigingen en verlies van vertrouwelijke gegevens.

In tegenstelling tot de standaard security in individuele AI-modellen lzegt Cisco een overkoepelende securitytool voor verschillende modellen te leveren. AI Defense maakt gebruik van Cisco's eigen machine learning-modellen om nieuwe algemene en AI-dreigingen te detecteren op basis van gegevens van Splunk en Cisco Talos Threat Intelligence. Zo wordt het platform ook almaar effectiever. Om het spectrum verder te vergroten is AI Defense ingebouwd in de Security Cloud, Cisco's uniforme, AI-gestuurde, domeinoverschrijdende beveiligingsplatform.

AI Defense is de nieuwste in een reeks AI-gestuurde security-innovaties van Cisco, waaronder Cisco Hypershield. Voor ondernemingen die hun AI-transformaties willen beschermen, is Cisco AI Defense vanaf maart beschikbaar. Ga voor meer informatie naar cisco.com/go/ai-defense.