Nieuwe tool van IBM controleert AI van bedrijven
Een nieuwe tool van IBM geeft bedrijven die AI gebruiken meer inzicht in wat er gebeurt, en controleert of dat wel verantwoord is. Het gaat om Watsonx.governance, dat als voornaamste taak heeft om andere AI-tools - ook tools die niet van IBM zijn - te controleren op fouten, onregelmatigheden of dingen die problemen kunnen veroorzaken.
IBM ziet drie toepassingen voor Watsonx.governance: lifecycle management, risk management en compliance. Het benadrukt daarbij dat AI door veel bedrijven wordt overwogen of al actief wordt gebruikt, maar dat er veel risico’s zijn. Zo is de kwaliteit van taalmodellen die zich op het internet baseren niet altijd even goed, maar kunnen er ook risico’s ontstaan als een bedrijf modellen traint met interne gevoelige data.
Watsonx.governance belooft dat het een licht kan werpen op welke data er in een AI-systeem gaat, en wat er weer uitkomt en dat voor vrijwel elk systeem. ‘We kunnen eender welk model, dus ook modellen van derde partijen, integreren,’ legt Ana Paula Assis, General Manager EMEA bij IBM uit aan Data News. ‘Onze aanpak is open, hybride en multi model op zowel een publieke als private cloudomgeving.’ De tool is begin december beschikbaar.
In samenwerking met Data News
