'Ontbreken verantwoordelijke aanpak rond AI kan vertrouwen aantasten'

Workday baseert zijn oproep op recent onderzoek. Hieruit blijkt dat slechts 62 procent van de leidinggevenden er vertrouwen in heeft dat hun organisatie AI op een verantwoorde en betrouwbare manier implementeert. Onder werknemers daalt dit percentage naar 55 procent. Zonder vertrouwen is de kans kleiner dat deze werknemers AI gebruiken en profiteren van de productiviteitswinst die het oplevert. In het huidige, snel evoluerende zakelijke landschap is Responsible AI (RAI) niet alleen een keuze – het is een competitieve noodzaak.

'Reponsible AI is een strategisch voordeel'

Hoewel zakelijke leiders begrijpen dat de inzet van AI en ML cruciaal zijn voor succes in de toekomst, daalt het vertrouwen in de inzet van algoritmes. Het moet duidelijk zijn voor werknemers wanneer ze AI gebruiken en hoe deze is getest op eerlijkheid en veiligheid, zodat ze ervan uit kunnen gaan dat deze kan worden vertrouwd. Wanneer werknemers AI vertrouwen, is de kans groter dat ze het vrijwillig adopteren, waardoor het potentieel om de groei van de organisatie te stimuleren wordt gemaximaliseerd. Verantwoorde AI gaat daarmee niet alleen over ethiek; het gaat om het stimuleren van tastbare bedrijfswaarde.

“Er is veel enthousiasme over AI, met name generatieve AI, en hoe dit de manier waarop we werken kan en zal transformeren. Maar tegelijkertijd bestaat er ook bezorgdheid over onbedoelde gevolgen van zo’n wereldveranderende technologie. Nu we steeds meer AI-technologieën introduceren, moeten bedrijven zich richten op het opbouwen van vertrouwen bij klanten en medewerkers”, zegt Josh Lannin, vice president productivity technology bij Workday. “In essentie is RAI niet alleen een morele verplichting – het is een strategisch voordeel. Het gaat om het bevorderen van vertrouwen, het stimuleren van adoptie, het verbeteren van de besluitvorming en het beperken van risico's. Terwijl de AI-revolutie zich blijft ontvouwen, moeten organisaties prioriteit geven aan verantwoorde AI om niet alleen voorop te blijven lopen, maar ook om te gedijen in een wereld die steeds meer door AI wordt aangedreven.”

Vier RAI-principes

Workday hanteert vier RAI-principes:

• Versterk het menselijk potentieel – AI moet mensen de mogelijkheid geven om hun beste werk te doen en talent te laten zien.
• Een positieve impact op de samenleving – bij de inzet van AI moet rekening gehouden worden met ethiek en onbedoelde gevolgen.
• Transparantie en eerlijkheid - AI die niet transparant is, is behoorlijk beangstigend. Zowel intern als extern moet daarom volledig transparant zijn wanneer een functie wordt aangedreven door AI, met een samenvatting van de factoren die bepalen hoe AI-outputs worden afgeleid, evenals uitleg of richtlijnen voor het interpreteren van de resultaten.
• Voldoe aan de verplichtingen op het gebied van privacy en gegevensbescherming - met kwalitatief betere en betrouwbaardere gegevens faciliteert AI beter geïnformeerde besluitvormingsprocessen, wat leidt tot betere bedrijfsresultaten. En aangezien AI over verschillende functies en teams heen wordt geschaald, vermindert een verantwoorde implementatie ervan aanzienlijk de risico's die verband houden met zowel de kwaliteit van de besluitvorming als de ethiek.

RAI-programma

In het overbruggen van de AI-vertrouwenskloof zijn regelgevingskaders van belang. Zo markeert de EU AI Act een mijlpaal in de regulering van AI en de impact ervan raakt elk bedrijf. Maar organisaties die al verantwoordelijke AI-praktijken hebben omarmd, profiteren het meest. Door vanaf het begin vast te houden aan best practices, vermijden ze de noodzaak van uitgebreid herzien en opnieuw implementeren.

“Regelgeving zoals de EU AI Act is belangrijk voor het vertrouwen in AI-technologie. Toch vergt het daadwerkelijk en uitvoerbaar maken van RAI de nodige inspanning van organisaties. Zij moeten zich bij het opbouwen van een RAI-programma richten op drie belangrijke pijlers: veiligheid en beveiliging, de mens voorop en transparantie”, aldus Lannin. “Veiligheid en beveiliging zouden vanaf de start onderdeel moeten zijn van het ontwerp, in elke laag. Bij het centraal stellen van de mens gaat het niet alleen om het beoordelen van resultaten die AI geeft, het gaat ook om het bouwen van AI-functies voor en door mensen, met menselijk toezicht om fundamentele mensenrechten te beschermen en om het democratiseren van AI voor iedereen. Tot slot is het gemakkelijk om transparant te zijn in meningen over AI, maar het schrijven van gedetailleerde documentatie over modellen en testresultaten en het inbouwen van uitlegbaarheid in de gebruikersinterface is de beste manier om vertrouwen te wekken. Hoe gedetailleerder, hoe beter.”

Inzetten op uitlegbaarheid en interpreteerbaarheid

Verantwoorde AI omvat ook uitlegbaarheid en interpreteerbaarheid. Gebruikers moeten weten dat ze een functie gebruiken die wordt aangedreven door AI, met een samenvatting van de factoren die bepalen hoe AI-outputs worden afgeleid, evenals richtlijnen voor hoe de resultaten moeten worden begrepen.

Lannin: “Bij het genereren van een functieomschrijving in Workday begeleidt de gebruikersinterface de gebruiker bij het invoeren van een functietitel, functieprofiel en primaire locatie. De gebruiker heeft dan de mogelijkheid om een functieomschrijving te genereren met behulp van AI door op een duidelijk gemarkeerde button “Genereren met AI” te klikken. Terwijl de AI draait, is het binnen de gebruikersinterface duidelijk welke input wordt gebruikt om de resultaten te genereren. Zo wordt de gebruiker er bijvoorbeeld van op de hoogte gebracht dat de AI de input uit het veld “details van deze functie” gebruikt om een functiebeschrijving te genereren.”

Het implementeren van AI moet gepaard gaan met een sterke focus op verantwoordelijkheid en ethiek om het vertrouwen van zowel leiders als werknemers te waarborgen. Het gebrek aan vertrouwen kan de adoptie van AI negatief beïnvloeden, waardoor de beoogde productiviteitsvoordelen niet worden gerealiseerd. Door AI transparant en eerlijk te maken, kunnen organisaties het vertrouwen van hun medewerkers winnen en zo de vrijwillige adoptie bevorderen. RAI is niet alleen ethisch, maar biedt ook een strategisch voordeel door het stimuleren van vertrouwen, betere besluitvorming en risicobeheersing. In een wereld die steeds meer door AI wordt gedreven, is het essentieel voor organisaties om prioriteit te geven aan verantwoorde AI om te kunnen blijven concurreren en groeien.