Dell breidt de bestaande samenwerking met AMD verder uit met de komst van nieuwe servers geoptimaliseerd voor het draaien van AI-workloads met behulp van AMD-chips en accelerators. Ook heeft het bedrijf een Dell Enterprise Hub ingericht op Hugging Face met custom containers en scripts om de beoogde workloads te optimaliseren.
Onder de vlag van Dell’s AI Factory brengt het bedrijf nieuwe infrastructuur, oplossingen en diensten op de markt, allemaal gericht op het vereenvoudigen en versnellen van AI-workloads in de servers van enterprise-organisaties (of de clouddiensten waar ze gebruik van maken).
Zo komt het bedrijf met de PowerEdge XE7745, die tot acht double-width of 16 single-width PCIe GPU’s aan kan. Dit werkpaard wordt aangedreven door AMD’s 5e generatie EPYC-processors en is volgens Dell uitermate geschikt voor AI-inferencing en het fine-tunen van modellen. De configuratie is flexibel en dus naar wens aan te passen. Ook kan deze server twee keer zoveel PCIe GPU-capaciteit aan als zijn voorgangers. Deze server is vanaf januari 2025 verkrijgbaar.
Geschikt voor data-analyse
Daarnaast levert Dell de combi PowerEdge R6725 en R7725. Deze servers, eveneens uitgerust met EPYC-chips van AMD, zijn geoptimaliseerd voor schaalbaarheid en prestaties, met name voor data-analytics. Een nieuw chassisontwerp zorgt bovendien voor een betere afvoer van overtollige warmte. Beide servertypen bieden support voor dual 500W CPU’s.
Alle drie de bovengenoemde servers beloven een aanzienlijke prestatiewinst te leveren ten opzichte van eerdere generaties. De winst is volgens Dell’s eigen benchmark-tests zelfs zo hoog, dat één van deze servers dezelfde performance biedt als zeven servers van vijf jaar oud. En dan zijn ze ook nog eens energiezuiniger.
Storage-klussen
Voor gebruikers die meer op zoek zijn naar memory- en storage-heavy workloads in een compacte vorm dan rauwe AI-rekenkracht, zijn de PowerEdge R6715 and R7715 geschikter. Deze servers moeten het doen met één enkele CPU-socket. Dat compenseren ze echter met een dubbele geheugencapaciteit (24 DIMM’s) en een verhoogde schijfcapaciteit, waardoor ze ideaal zijn voor zware storage-klussen. Ze zijn daarnaast toegerust voor eenvoudiger AI-klussen en virtualisatie. Zowel de PowerEdge R6725, R7725 de R6715 en de R7715 komen later dit jaar uit.
Voor het de monitoring van deze servers heeft de Integrated Dell Remote Access Controller (iDRAC) een opfrisbeurt gekregen. De controller heeft een snellere processor, meer geheugen en een speciale security co-processor.
Partnerschap met Hugging Face
Dell is daarnaast een partnerschap met Hugging Face aangegaan en biedt via dit AI-platform nu ondersteuning voor custom containers en scripts voor de PowerEdge XE9680, voorzien van AMD Instinct MI300X accelerators. De geboden software is bruikbaar voor het zo efficiënt mogelijk implementeren van modellen als Llama en Mixtral op deze Dell/AMD-hardwarecombi.
Een andere uitbreiding van Dell’s AI-aanbod betreft ‘Professional Services for Generative AI’, een dienstenpakket waar alle door AMD-chips aangedreven Dell-technologie profiteert: van Kubernetes-configuraties tot de implementatie van geavanceerde AI-frameworks.
Lees ook: Dell AI Factory bundelt infrastructuur voor AI-applicaties