Techpartijen richten Coalition for Secure AI op

CoSAI brengt uiteenlopende belanghebbenden, waaronder leiders uit de industrie, academici en andere experts, samen om het gefragmenteerde landschap van AI-beveiliging aan te pakken.

• De oprichtende Premier Sponsors van CoSAI zijn Google, IBM, Intel, Microsoft, NVIDIA en PayPal. Andere oprichtende Sponsors zijn Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI en Wiz.

• CoSAI is een initiatief om het vertrouwen en de veiligheid bij het gebruik en de implementatie van AI te verbeteren.

• De scope van CoSAI omvat het veilig bouwen, integreren, implementeren en bedienen van AI-systemen, waarbij de focus ligt op het beperken van risico's zoals diefstal van modellen, vergiftiging van gegevens, snelle injectie, misbruik op grote schaal en inferentieaanvallen.

• Het project heeft als doel uitgebreide beveiligingsmaatregelen te ontwikkelen die de klassieke en unieke risico's van AI-systemen aanpakken.

• CoSAI is een open source community die wordt geleid door een Project Governing Board, die de algemene technische agenda ontwikkelt en beheert, en een Technical Steering Committee van AI-experts uit de academische wereld en het bedrijfsleven, die toezicht houden op de werkstromen.

De noodzaak van CoSAI

Kunstmatige intelligentie (AI) verandert onze wereld snel en heeft een enorm potentieel om complexe problemen op te lossen. Om vertrouwen in AI te garanderen en verantwoorde ontwikkeling te stimuleren, is het van cruciaal belang om methodologieën te ontwikkelen en te delen die beveiliging voorop stellen, potentiële kwetsbaarheden in AI-systemen identificeren en beperken en leiden tot de creatie van systemen die Secure-by-Design zijn.

Momenteel is het beveiligen van AI en AI-applicaties en -services een gefragmenteerde onderneming. Ontwikkelaars worstelen met een lappendeken van richtlijnen en standaarden die vaak inconsistent en geïsoleerd zijn. Het beoordelen en beperken van AI-specifieke en veelvoorkomende risico's zonder duidelijke best practices en gestandaardiseerde benaderingen is een aanzienlijke uitdaging voor zelfs de meest ervaren organisaties.

Met de steun van leiders en experts uit de sector is CoSAI klaar om grote stappen te zetten in het opzetten van gestandaardiseerde werkwijzen die de AI-beveiliging verbeteren en vertrouwen opbouwen onder belanghebbenden wereldwijd.

"De oprichting van CoSAI was geworteld in de noodzaak om de kennis en ontwikkelingen die essentieel zijn voor de veilige integratie en inzet van AI te democratiseren", aldus David LaBianca, Google, Co-voorzitter van de CoSAI Governing Board. "Met de hulp van OASIS Open kijken we ernaar uit om dit werk en de samenwerking tussen toonaangevende bedrijven, experts en de academische wereld voort te zetten."

"We zetten ons in om samen te werken met organisaties die vooroplopen in verantwoorde en veilige AI-technologie. Ons doel is om redundantie te elimineren en onze gezamenlijke impact te vergroten door middel van belangrijke partnerschappen die zich richten op cruciale onderwerpen", aldus Omar Santos, Cisco, CoSAI Governing Board co-voorzitter. "Bij CoSAI zullen we onze gecombineerde expertise en middelen inzetten om de ontwikkeling van robuuste AI-beveiligingsnormen en -praktijken te versnellen, waarvan de hele sector zal profiteren."

Eerste werk

Om te beginnen zal CoSAI drie werkstromen vormen, met plannen om er in de loop van de tijd meer toe te voegen:

• Beveiliging van de softwaretoeleveringsketen voor AI-systemen : verbetering van de samenstelling en herkomstregistratie om AI-toepassingen te beveiligen.

• Verdedigers voorbereiden op een veranderend cybersecuritylandschap : het aanpakken van uitdagingen op het gebied van investeringen en integratie in AI en klassieke systemen.

• AI-beveiligingsbeheer : het ontwikkelen van best practices en risicobeoordelingskaders voor AI-beveiliging.

Deelname

Iedereen is welkom om technisch bij te dragen als onderdeel van de CoSAI open-source community. OASIS verwelkomt aanvullende sponsoring van bedrijven die betrokken zijn bij deze ruimte. Neem contact op met join@oasis-open.org voor meer informatie.