Databricks kondigt nieuwe Mosaic AI-functies aan
Data- en AI-bedrijf Databricks onthulde vandaag tijdens hun Data+AI Summit verschillende innovaties in Mosaic AI die klanten helpen bij het ontwikkelen van productieklare generatieve AI-toepassingen. Databricks investeert in Mosaic AI op drie vlakken: ondersteuning voor het bouwen van samengestelde AI-systemen, mogelijkheden om de modelkwaliteit te verbeteren en nieuwe AI-governancetools. Dankzij deze innovaties kunnen klanten met vertrouwen productieklare toepassingen bouwen en meten, en zo de beloftes van Generatieve AI voor hun bedrijf waarmaken.
Organisaties worstelen om hun Generatieve AI-projecten van pilot naar volledige productie te brengen vanwege zorgen over privacy, kwaliteit en kosten. Hoewel de funderingsmodellen aanzienlijk zijn verbeterd, hebben ze nog steeds moeite met het leveren van hoogwaardige resultaten. Zelfs de best presterende modellen kunnen reacties teruggeven die onjuist dan wel onveilig zijn, of vertrouwelijke gegevens naar buiten brengen. Om deze uitdagingen aan te pakken, kiezen organisaties steeds vaker voor samengestelde AI-systemen. Deze benadering maakt gebruik van meerdere componenten, waaronder verschillende modellen, retrievers, vectordatabases en tools voor evaluatie, monitoring, beveiliging en governance. Daardoor bieden samengestelde AI-systemen een veel hogere productiekwaliteit, waardoor organisaties nauwkeurigere, veiligere en beter beheerde AI-toepassingen efficiënt kunnen leveren.
“We geloven dat samengestelde AI-systemen de beste manier zijn om de kwaliteit, betrouwbaarheid en meetbaarheid van AI-toepassingen te maximaliseren. Het is misschien wel een van de belangrijkste AI-trends in 2024”, zegt Matei Zaharia, medeoprichter en CTO van Databricks. “Databricks is in de perfecte positie om deze trends te ondersteunen, dankzij onze investeringen in kwaliteitsverbetering, modeluitbreidingen met realtime gegevens en tools die gebrekkige kennis ondervangen.”
Om klanten te helpen productieklare Generatieve AI-toepassingen te bouwen, lanceert Databricks het Mosaic AI Agent Framework, Mosaic AI Quality Lab, Mosaic AI Tools Catalog, Mosaic AI Model Training en Mosaic AI Gateway.
Mosaic AI Agent Framework en Mosaic AI Tools Catalog
Databricks introduceert verschillende nieuwe mogelijkheden om klanten te helpen samengestelde AI-systemen te implementeren in de vorm van Retrieval Augmented Generation (RAG). Dit systeem maakt gebruik van meerdere componenten, zoals een vectordatabase en tools voor monitoring, evaluatie, beveiliging en governance om de nauwkeurigheid van het LLM te verbeteren.
In dit kader kondigde Databricks vorige maand de algemene beschikbaarheid aan van Mosaic AI Vector, een serverloze vectordatabase die naadloos is geïntegreerd in het Data Intelligence Platform.
Nu volgt Databricks op met Mosaic AI Agent Framework, waarmee ontwikkelaars eenvoudig en veilig hoogwaardige RAG-applicaties kunnen bouwen met funderingsmodellen en hun eigen data. Ze kunnen de kwaliteit van hun RAG-applicatie vervolgens evalueren met Mosaic AI Quality Lab voor snelle iteratie en herimplementatie. Mosaic AI Quality Lab is een AI-ondersteunde evaluatietool die automatisch bepaalt of uitkomsten van hoge kwaliteit zijn, met een intuïtieve gebruikersinterface om feedback van stakeholders op te halen.
Samengestelde AI-systemen maken doorgaans ook gebruik van tools die mogelijkheden geven om met de wereld te communiceren. Denk aan het intelligent genereren en uitvoeren van code, zoeken op het web en het gebruik van API's. Mosaic AI Tools Catalog helpt organisaties dit soort tools te beheren, delen en registreren met behulp van Databricks Unity Catalog. Dit zorgt ervoor dat modellen deze tools op een veilige en beheerde manier kunnen gebruiken en maakt ze beter vindbaar binnen de organisatie.
Mosaic AI Model Training
Mosaic AI Model Training helpt om open source funderingsmodellen te finetunen met eigen bedrijfsgegevens, zodat je modellen kunt trainen met branche- of taakspecifieke kennis. Hierdoor leveren ze veel betere resultaten. Daarnaast zijn deze kleinere modellen sneller en goedkoper in gebruik dan grotere AI-modellen – ze bevatten minder parameters en vereisen minder rekenkracht.
Mosaic AI Gateway
Mosaic AI Gateway biedt een uniforme interface om ieder open source- of propriëtair model te bevragen, beheren en implementeren. Hiermee kunnen klanten eenvoudig de LLM's die hun toepassingen aandrijven vervangen zonder dat er ingewikkelde wijzigingen in de applicatiecode nodig zijn. Het ondersteunt gebruiksmonitoring en guardrails, zodat beheerders ongeacht het gebruikte model kunnen bijhouden welke medewerkers het model gebruiken, gebruikslimieten kunnen instellen om kosten te beheersen, en filters kunnen instellen voor databeveiliging en privacy. Ook biedt Mosaic AI Gateway ingebouwde governance en monitoring om continu de kwaliteit te waarborgen.
Beschikbaarheid
Mosaic AI Agent Framework, Mosaic AI Quality Lab, Mosaic AI Model Training en Mosaic AI Gateway zijn nu beschikbaar in public preview. Mosaic AI Tools Catalog is beschikbaar in private preview. Ga voor meer informatie naar https://www.databricks.com/product/machine-learning
Meer over data
Over Witold Kepinski
