Pega Ethical Bias Check helpt discriminatie door AI te voorkomen bij klantinteractie

Pegasystems, softwareleverancier van digital transformation toepassingen, lanceert een nieuwe functionaliteit van de Pega Customer Decision Hub. Met Ethical Bias Check kunnen organisaties eventuele vooroordelen en discriminatie (‘bias’) in AI-gestuurde customer engagement activiteiten eruit filteren. De tool wijst op alle kanalen op mogelijk discriminerende aanbiedingen en berichten gegenereerd door AI, voordat ze klant bereiken.

Mits op de juiste wijze toegepast, helpt AI organisaties meer waarde aan iedere klantinteractie toe te voegen. Klanten blijven zo loyaal aan een merk en dat leidt uiteindelijk tot hogere winstgevendheid. Toch kunnen AI-modellen onbewust vooroordelen aanleren op basis van bijvoorbeeld leeftijd, etniciteit of geslacht. Wordt dit niet opgemerkt, dan kan het leiden tot pijnlijke, discriminerende praktijken zoals het verstrekken van minder leningen, verzekeringspolissen of productkortingen. In de huidige onvoorspelbare economie, kunnen bedrijven het niet riskeren om het vertrouwen van hun klanten te verliezen omdat ze door de pandemie al kwetsbaarder zijn.

Ethical Bias Check helpt organisaties AI verantwoord toe te passen bij het gebruik ervan in klantinteractie. Het spoort ongewenste discriminatie op door voorspellende analyses te gebruiken en zo de waarschijnlijke resultaten van een bepaalde strategie te simuleren. Na het instellen van testdrempels, ontvangen klanten waarschuwingen wanneer de bias risico’s een onaanvaardbaar niveau bereiken, zoals wanneer de doelgroep voor een bepaald aanbod scheeftrekt naar of juist weg van specifieke demografische gegevens. Operationele teams kunnen dan het aanstootgevende algoritme opsporen en de strategie aanpassen voor een evenwichtiger en eerlijk resultaat voor iedereen.

Naast Ethical Bias Check heeft Pega eerder andere functies geïntroduceerd in Pega Customer Decision Hub, die erop gericht zijn klanten te helpen verantwoord met AI om te gaan. Dit omvat de T-Switch, die organisaties controle geeft over de transparantie van hun AI-modellen voor klantbetrokkenheid.

Pega Customer Decision Hub fungeert als een ‘always-on’ brein. Het biedt gecentraliseerde AI op alle klantcontactmomenten om de interactie te optimaliseren en er meer waarde aan toe te voegen. Dankzij de mogelijkheden van voorspellende analyses en customer decision management kunnen organisaties unieke inzichten opdoen en in real-time aanbevelingen doen voor de volgende beste actie op elk moment van de klantreis - van marketing tot verkoop tot klantenservice. Pega Customer Decision Hub levert de AI-kracht in de uniforme Pega Infinity ™ software voor digitale transformatie, waardoor de klantbetrokkenheid en operationele efficiëntie van begin tot eind worden geoptimaliseerd.