Roy Ikink, Accenture: ‘We moeten organisaties helpen AI-valkuilen te vermijden en kansen te benutten’

Roy Ikink, Managing Director en Technology Lead van Accenture Nederland.

Technology Vision is een jaarlijkse studie van Accenture, die al een jaar of 20 mee gaat. Het betreft altijd om technologische trends die samenleving en bedrijfsleven de komende jaren sterk gaan beïnvloeden. En dat is niet iets voor de korte termijn, stelt Roy Ikink.

“Tien jaar geleden schreven we dat elke organisatie een digitale organisatie zou worden. Dat heeft ook zeker vijf tot tien jaar geduurd voordat het in de praktijk het geval begon te zijn. Dat zul je hier ook zien. Dus thema’s en technologieën waar we nu over schrijven in Technology Vision, zijn vooral iets waar organisaties zich de komende jaren echt mee moeten gaan bezighouden. Uit de studie blijkt ook dat je nu moet beginnen met investeren om niet achterop te lopen.”

Responsible AI

De nadruk ligt in de meest recente studie – niet onlogisch – op AI. Niet alleen de technologie zelf, maar ook zaken zoals governance en ethiek. ‘Responsible AI’ is bepaald niet nieuw, stelt Ikink. Accenture werkt zelf al jaren vanuit een dergelijk raamwerk. “Wij hebben al veel organisaties op dit gebied ondersteund. Bij elk project waar AI betrokken is, krijgen onze medewerkers een vragenlijst voorgelegd, met vragen zoals: heb je voldoende nagedacht over wat onbedoelde gevolgen kunnen zijn van je AI-project?” Verder zijn ook overheden in de VS, in Europa ook al langer bezig om een wetgevend raamwerk te ontwikkelen op dit gebied.

Met de komst van toepassingen zoals GPT en LLM (large language model) wordt er echter een ander, veel groter publiek aangetrokken, ziet Ikink. “Veel meer mensen houden zich opeens met AI bezig, het is ‘hot’ in talkshows. Responsible AI krijgt hiermee een nieuwe slinger: voor wat betreft het soort toepassing, het soort en de omvang van de doelgroep en het politieke kader. Het meest bekende voorbeeld van AI voor het grote publiek is natuurlijk ChatGPT van het door Microsoft mede gefinancierde OpenAI. Wat AI voor mensen kan doen, wordt zo opeens heel concreet.”

Tegelijkertijd maakt deze ontwikkeling mensen ook angstig voor de impact van AI. Tech-entrepreneurs zoals Elon Musk roepen niet voor niets op om een soort pauzeknop voor ontwikkeling in te stellen. Ikink denkt dat de combinatie van breder gebruik en breder gedeelde zorgen gaan leiden tot meer aandacht voor een verantwoord raamwerk rondom het gebruik van AI. “Bij ons is verantwoordelijke AI dus al onderdeel van de methodiek. Ik denk dat alle publieke aandacht dit heel breed gaat trekken en dat is zeker positief.”

Pauzeknop geen optie

In het nieuwsbericht over het nieuwe Technology Vision-onderzoek stelt wordt onder meer gesteld dat de eerdergenoemde pauzeknop geen optie is. Ikink onderschrijft dit. “Ik denk dat vooruitgang niet te stuiten is, nooit. Er bestaat nergens een wereldwijde pauzeknop voor, je kunt verandering niet buitenhouden. Je kunt hem beter omarmen en er zo goed mogelijk mee omgaan. Dit is een typisch voorbeeld van technologie die exponentieel groeit. Dan moet je er dus vooral voor zorgen dat de juiste raamwerken op gebieden zoals ethiek en governance ontwikkeld en afgesproken worden. Daar ben ik een groot voorstander van.”

In relatie hiermee gaf Ikink gaf al aan: ook al kunnen organisaties AI nu concreet nog niet inzetten, zij moeten er wel nu al over nadenken wat AI voor hen als organisatie en voor hun doelgroep kan betekenen. “Ga er mee bezig langs twee assen. Allereerst de as van de inhoud. Zet use cases op, achterhaal wat AI voor jouw bedrijf en je klanten kan betekenen. En ga ermee aan de slag langs de governance-as. Hoe kun je AI verantwoord inzetten. Die twee moeten hand in hand gaan, zoals dat ook al gebeurt met de meer traditionele AI, of chatbots. Daar speelt dit thema al heel lang, maar nu wordt alles een niveau hoger getild.”

Leren van fouten

Natuurlijk, organisaties vinden het vaak lastig om van eerdere fouten te leren. Ook bij AI zullen sommige partijen zonder nadenken in het diepe springen. Er zijn genoeg voorbeelden van fouten op dit gebied, ook bij traditionele AI. Denk aan bias op het gebied van gezichtsherkenning.

“Ik denk dat het de verantwoordelijkheid is van organisaties zoals Accenture om mensen en bedrijven te wijzen op dit soort valkuilen die vaak al aan het begin van AI-ontwikkeling te vinden zijn, om hen bewust te maken over het belang van openheid en transparantie in AI-ontwikkeling, dat het traceerbaar is hoe een algoritme tot stand is gekomen. Je kunt niet voorkomen dat organisaties – vaak per ongeluk – toch vooroordelen in een AI-toepassing laten insluipen, maar je kunt het wel beperken. Wij proberen dat al in het eerste ontwerp mee te nemen.”

Nieuwe realiteit

De studie van Accenture noemt vier trends die kunnen leiden tot een realiteit waarin fysieke en digitale werelden in elkaar overgaan:

• Generalizing AI: AI ondersteunt de mens als copiloot, creatieve partner of adviseur. Bijna alle leidinggevenden zien dat generatieve AI creativiteit en innovatie aanwakkert (98%) en een tijdperk van enterprise intelligence inluidt (95%).

• Digitale identiteit: het is noodzakelijk om digitale gebruikers en middelen te authenticeren om goed te kunnen functioneren in zowel de digitale als fysieke wereld. Volgens 85% van de leidinggevenden is dit niet alleen een technische kwestie, maar ook strategische noodzaak.

• Mijn data, jouw data, onze data: AI kan niet optimaal functioneren als organisaties geen grip op hun data hebben. Daarom moeten bedrijven datasilo's afbreken en hun dataomgeving moderniseren. Voor 90 procent van de leidinggevenden is data dan ook bepalend voor hun concurrentievoordeel.

• De eeuwige grens: de interactie tussen wetenschap en technologie gaat steeds sneller en heeft een versterkend effect; de ene ontwikkeling versnelt de andere. Volgens 75 procent van de respondenten kan dit ons helpen de grote wereldwijde uitdagingen op te lossen.

Ikink verwacht dat de eerste twee trends op korte termijn de meeste impact hebben. “Generatieve AI, wordt nu enorm veel gebruikt. ChatGPT 4 is al gelanceerd, dit is een bijna niet bij te houden versnelling. Iedereen doet er iets mee. Naast Microsoft zijn ook Google, AWS, Salesforce en anderen in actie gekomen. Dus de impact hiervan zal zeker groot zijn. Digitale identiteit is denk ik ook een heel actueel thema waarmee alle bedrijven worstelen: hoe houden we onze data veilig, hoe zorgen we ervoor dat de juiste digitale identiteit hieraan gekoppeld wordt – bijvoorbeeld dat iemand ook echt de persoon is als wie hij of zij zich digitaal voordoet.

Het delen van data is volgens Ikink ook een belangrijke trend, maar op het moment iets minder disruptief. Het gebeurt al heel lang en is dus een meer geleidelijke ontwikkeling, waar de eerste twee trends echt in de knik zitten van de disruptieve curve. “De vierde, ‘de eeuwige grens’, staat iets verder van ons af. We zitten hier nog net voor de knik. Maar juist bedrijven waar wetenschap en technologie bij elkaar komen, is dit wel het moment om erin te investeren. Zo kunnen zij als eerste in die knik meegaan.”

Vaak zie je ook combinaties van trends, vervolgt Ikink. “Een voorbeeld: PFAS wordt als onafbreekbaar gezien. Accenture en AWS hebben nu samen een algoritme ontwikkeld dat wel een mogelijkheid toont om PFAS af te breken. Zonder de combinatie van enorm veel data en generatieve AI waren we hier nooit toe gekomen. Op deze manier kan interactie tussen wetenschap en technologie meer impact krijgen op maatschappelijke uitdagingen die voor ons liggen.”

Top 3 adviezen

Ikink zet tot slot nog eens de drie belangrijkste adviezen op een rij om op een goede manier met AI om te gaan:

• Zet mensen centraal. Haal de juiste kennis en vaardigheden binnen. Met AI werken vergt een hele andere manier van denken dan je traditioneel met IT-toepassingen gewend bent. En betrek de business hier ook vanaf het begin bij, want tenslotte zet je AI in om business-uitdagingen op te lossen.

• Denk na over een responsible AI. Er zijn al diverse raamwerken beschikbaar die hiervoor bruikbaar zijn gebruiken. Zet die in en leidt mensen in je organisatie hierin ook op. Iedereen die in je organisatie te maken heeft met AI, moet hierin een bepaalde basiskennis hebben. “Misschien moet je daarin nog onderscheid maken tussen mensen die AI ontwikkelen en met AI-toepassingen werken, en de mensen die hierop toezicht uitvoeren.”

• Bedenk hoe je innovaties met behulp van AI kunt versnellen. Hoe kun je hiervoor samenwerken met je ecosysteem, hoe ga je je organisatie en je klanten sneller bedienen?