Nvidia lanceert NeMo microservices om AI te helpen bij het bouwen van betere AI-assistenten

Deze microservices zijn ontworpen om taken te automatiseren en de levenscyclus van AI-agenten te beheren, zodat ze continu kunnen worden geüpdatet met de nieuwste informatie zo meldt The Register.

Volgens Joey Conway, senior director van generatieve AI-software voor bedrijven bij Nvidia, kunnen deze "digitale werknemers" of AI-agenten een breed scala aan taken in diverse sectoren en omgevingen ondersteunen. De NeMo microservices maken deel uit van Nvidia's overkoepelende AI Enterprise suite.

Toolkit

De toolkit omvat onder meer NeMo Curator voor het verzamelen van bedrijfsdata, NeMo Customizer om AI-modellen te trainen met nieuwe vaardigheden en kennis, NeMo Evaluator om de prestaties van de modellen te controleren en NeMo Guardrails om de AI-agenten binnen de beoogde context te houden en veiligheidsrisico's te vermijden. Nvidia ziet deze microservices als een continue feedbacklus, waarbij nieuwe data en gebruikersinput worden gebruikt om de AI-modellen te verbeteren en opnieuw te implementeren.

Nvidia claimt brede softwareondersteuning voor de NeMo toolkit, waaronder enterprise platforms zoals SAP, ServiceNow en Amdocs, AI-software stacks zoals DataRobot en Dataiku, en andere tools zoals DataStax en Cloudera. Ook worden modellen van Google, Meta, Microsoft, Mistral AI en Nvidia zelf ondersteund.