Rapt AI en AMD hebben een strategische samenwerking aangekondigd voor het optimaliseren van AI-workloads op AMD Instinct GPU’s. Deze alliantie moet zorgen voor verbetering van inferencing- en trainingsprestaties. Het moet klanten kunnen laten profiteren van een schaalbare en kosteneffectieve oplossing voor AI-toepassingen in verschillende omgevingen.
Organisaties worstelen tegenwoordig behoorlijk met meerdere uitdagingen rondom AI. Denk onder andere aan het toewijzen van resources voor AI, bottlenecks in prestaties en de complexiteit van het beheren van GPU’s. Daar moet de samenwerking tussen Rapt AI en AMD bij te hulp schieten. Dit willen de twee partijen doen door het workload-automatiseringsplatform van Rapt te integreren met AMD Instinct MI300X, MI325X en de komende MI350-serie GPU’s.
Maximaal benutten en flexibel uitrollen
Een belangrijke focus van de samenwerking ligt op het optimaliseren van GPU-gebruik. De AMD Instinct GPU’s worden gekoppeld aan Rapt’s technologie voor resource-optimalisatie. Deze combinatie moet zorgen voor maximale GPU-benutting voor AI-workloads, wat leidt tot een lagere TCO (Total Cost of Ownership). Organisaties die AI-projecten willen draaien, kunnen via deze samenwerking hun infrastructuur dus beter beheren en optimaal benutten.
Lees ook: AWS biedt GPU-vermogen voor korte AI-workloads
Een belangrijk voordeel van de oplossing is volgens AMD en Rapt AI dat het organisaties in staat stelt om AI naadloos in te zetten in zowel on-premise als multi-cloud-omgevingen. Rapt’s platform vereenvoudigt GPU-beheer, waardoor data scientists minder tijd kwijt zijn aan het op de gok configureren van infrastructuur. Door de automatische optimalisatie van het toewijzen van resources kunnen zij zich meer richten op innovatie dan op infrastructuur. Het platform ondersteunt verschillende GPU-omgevingen, waaronder AMD en andere leveranciers, via een enkele instance. Dit moet zorgen voor maximale flexibiliteit van de infrastructuur.
Verbeterde inferencing-prestaties
Het Rapt AI-platform is ingericht om optimaal samen te werken met AMD Instinct GPU’s. Dat houdt onder andere in dat deze zo efficiënt mogelijk gebruikt kunnen worden. Onderaan de streep resulteert dat dan weer in betere inferencing-prestaties en een betere schaalbaarheid. Ook als het gaat om AI-implementaties die daadwerkelijk in productie gaan. De relatief recente introductie van de AMD Instinct MI325X en aankondiging van de MI355X tonen aan dat AMD steeds betere prestaties biedt voor AI-inferencing. Daar bouwt het partnership met Rapt AI op verder.
De timing van deze samenwerking sluit goed aan bij de groeiende behoefte aan efficiënte AI-infrastructuur in het huidige technologielandschap, waarin organisaties zoals OpenAI zoeken naar manieren om het tekort aan gespecialiseerde processors zoals GPU’s op te lossen.
Lees ook: FlexAI regelt voor ontwikkelaars multi-cloud AI-infrastructuur ‘as-a-service’