Red Hat geeft Red Hat AI-platform een update

Bedrijven willen vaak kosten besparen op grote taalmodellen (LLM's), maar hebben moeite om deze modellen effectief te integreren met hun eigen data. Tegelijkertijd moet deze data overal beschikbaar zijn, van datacenters en publieke clouds tot edge-omgevingen. Met Red Hat AI, bestaande uit Red Hat OpenShift AI en Red Hat Enterprise Linux AI (RHEL AI), ondersteunt Red Hat bedrijven hiermee. Zij kunnen met de oplossing AI-modellen optimaliseren en efficiënter gebruiken. Deze modellen worden afgestemd op bedrijfsspecifieke data en kunnen in verschillende omgevingen worden ingezet voor training en gebruik.

Red Hat OpenShift AI

Red Hat OpenShift AI is een platform voor AI-beheer in de hybride cloud. Het ondersteunt MLOps en LLMOps, biedt tools voor modelbeheer en helpt om AI-modellen te ontwikkelen, trainen en monitoren. De nieuwste versie, Red Hat OpenShift AI 2.18, biedt onder meer verspreide modelserving. Met de vLLM-inferentieserver kunnen AI-modellen over meerdere GPU's worden verdeeld, wat de training versnelt en het gebruik van rekenkracht optimaliseert.

Ook is het afstemmen van modellen vereenvoudigd. Met InstructLab en OpenShift AI-data science pipelines kunnen bedrijven hun AI-modellen makkelijker aanpassen en beheren via een overzichtelijk dashboard. AI Guardrails helpen de nauwkeurigheid en betrouwbaarheid van AI-modellen te verbeteren en voorkomt ongewenste output, zoals beledigende taal of gevoelige informatie. Met lm-eval kunnen bedrijven AI-modellen testen op verschillende taken, zoals logisch redeneren en tekstbegrip, wat resulteert in beter afgestemde, responsieve AI-modellen.

RHEL AI

RHEL AI, onderdeel van Red Hat AI, biedt een platform om AI-modellen te ontwikkelen, testen en implementeren in bedrijfstoepassingen. Dit platform bevat Granite LLM's en InstructLab-tools en is beschikbaar als een opstartbare Red Hat Enterprise Linux-server. Sinds februari 2025 biedt RHEL AI 1.4 ondersteuning voor Granite 3.1 8B-model ondersteuning: Dit open-source AI-model ondersteunt meerdere talen en biedt een groter contextvenster voor betere resultaten bij AI-taken.

De visuele interface van RHEL AI is vernieuwd. Nieuw is daarnaast Document Knowledge-bench (DK-bench), een vergelijkingstool waarmee getrainde AI-modellen kunnen worden vergeleken met standaardmodellen.

Red Hat AI InstructLab op IBM Cloud

De behoefte aan nauwkeurige en veilige AI-oplossingen zonder hoge kosten of complexe implementatie groeit. Red Hat AI InstructLab op IBM Cloud maakt het eenvoudiger en veiliger om AI-modellen te trainen en in te zetten, terwijl bedrijven de controle over hun data behouden.

Om bedrijven te ondersteunen bij de transitie naar AI biedt Red Hat gratis AI Foundations-cursussen aan. Er zijn twee leertrajecten: een voor ervaren leiders en een voor AI-nieuwkomers. Deze trainingen helpen gebruikers AI effectief in te zetten en optimaal gebruik te maken van Red Hat's AI-oplossingen.

'Stijgende kosten beheren'

Joe Fernandes, Vice President en General Manager, AI Business Unit bij Red Hat: “Organisaties hebben oplossingen nodig om de stijgende kosten van generatieve AI te beheersen, zeker nu ze AI grootschalig in productie brengen. Daarnaast moeten ze AI-modellen naadloos integreren met hun eigen data en die overal kunnen inzetten, of dat nu in een datacenter, de cloud of aan de edge is. Red Hat AI helpt hen met efficiëntere, op maat gemaakte modellen die bovendien flexibel en schaalbaar zijn.”

Javier Olaizola Casin, global managing partner, hybrid cloud and data bij IBM Consulting: “Organisaties passen in toenemende mate AI toe om hun kernprocessen te transformeren en hebben hiervoor flexibele en kostenefficiënte AI-oplossingen nodig die zijn afgestemd op betrouwbare bedrijfsdata. Red Hat AI biedt de consistentie, betrouwbaarheid en snelheid om AI-modellen en -applicaties te bouwen en implementeren in hybride cloudomgevingen. Door de domein-, technologie- en industrie-expertise van IBM Consulting te combineren met de AI-technologieën van Red Hat, helpen we onze klanten om rendement op hun technologie-investeringen te behalen.”

Régis Lesbarreres, Advanced Analytics & AI Innovation Manager, Digital Innovation bij Airbus Helicopters: “Toen we AI wilden integreren, zochten we een oplossing die paste binnen onze IT-architectuur, schaduw-IT verminderde en onze datawetenschappers bij elkaar bracht op één platform. Daarnaast wilden we AI kostenefficiënt opschalen. Met Red Hat OpenShift AI hebben we al deze doelen bereikt en onze eerste AI-businesscase gerealiseerd. Red Hat’s AI-visie sluit perfect aan bij onze strategie en biedt de flexibiliteit, toegankelijkheid en transparantie die we nodig hebben.”

Torsten Volks, Principal Analyst, Application Modernization bij Enterprise Strategy Group: “Succesvolle bedrijven zetten AI in voor datagedreven beslissingen binnen hun hele organisatie. Daarom is het cruciaal om AI snel en kostenefficiënt te ontwikkelen, integreren en opschalen. Dit vereist een open en flexibel AI-platform dat bestaande systemen naadloos aanvult, operationele wendbaarheid biedt en continu beheerd kan worden. Hoe sneller medewerkers en klanten profiteren van AI, hoe groter het concurrentievoordeel.”

Beschikbaarheid

Red Hat OpenShift AI 2.18 en Red Hat Enterprise Linux AI 1.4 zijn nu beschikbaar. Meer informatie over nieuwe functies en upgrades is te vinden op de respectieve productpagina's. Red Hat AI InstructLab op IBM Cloud is binnenkort beschikbaar. De AI Foundations-trainingen van Red Hat zijn nu beschikbaar voor klanten.