Nvidia utvider støtte for ARM-prosessorer med deres komplette stabel med AI- og HPC-programvare

Tidligere i dag kunngjorde Nvidia endelig støtte for prosessorer med ARM-arkitektur sammen med hele stakken med AI- og HPC-programvare. Nvidia er godt kjent med ARM ettersom de har innlemmet arkitekturen i Tegra-brikkene og andre systemer på brikkeprodukter for bærbart spill, autonome kjøretøyer, robotteknologi og innebygd AI-databehandling.

Hvorfor nå?

ARM har eksistert en stund, men bruken i HPC-systemer har ikke eksistert før noen år. Nesten alle HPC-systemer bruker sjetonger fra Intel, siden de har eksistert lenge, noe som gir god eldre programvare og biblioteksstøtte.

Gjennom årene har ARM arbeidet utrettelig med å bygge et økosystem som kan gjøre arkitekturen deres til et levedyktig alternativ til x86-brikker. Mont-Blanc-prosjektet var et stort initiativ i denne retningen.

Disse initiativene bærer endelig frukt og chips med ARM-arkitektur blir i økende grad brukt i forskjellige HPC-systemer rundt om i verden.

Nvidias forretningsinteresser i datasentre

Nvidia dominerer allerede en stor del av forbrukerens GPU-virksomhet, og gjennom årene har de laget en respektabel maskinvare- og programvarestabel for arbeidsstasjoner. På programvaresiden av ting har de mange løsninger knyttet til AI og Deep Learning Workloads. Alle disse arbeidsbelastningene kan akselereres av GPUer, og det er her Tesla og Volta GPU-ene kommer inn.

Dette har hjulpet selskapets økonomi, og ifølge en artikkel på Fobes forfattet av Karl Freund “I NVIDIAs Q1 2019 kvartal overgikk selskapet nok en gang forventningene, og rapporterte en 66% vekst i totalinntektene, inkludert 71% vekst i sin glødende datasentervirksomhet (nådde $ 701M for kvartalet). For NVIDIA inkluderer "Datacenter" -segmentet High-Performance Computing (HPC), datasenter-vert grafikk og AI-akselerasjon. "

Dette er også store snakkepunkter i Nvidias investornøkkelord. Etter Nvidias anskaffelse av Mellanox som vi dekket her, Delte administrerende direktør Jensen Huang litt innsikt bak beslutningen om at "Strategien dobler seg ned på datasentre, og vi kombinerer og forener to ledere innen høyytelses databehandlingsteknologi. Vi er fokusert på akselerert databehandling for høyytelses databehandling, og Mellanox er fokusert på nettverk og lagring for høyytelses databehandling, og vi har kombinert de to selskapene under ett tak. Vår visjon er at datasentre er de viktigste datamaskinene i verden i dag, og at i fremtiden, når arbeidsmengden fortsetter å endres - noe som virkelig utløses av kunstig intelligens og dataanalyse - at fremtidige datasentre av alle slag vil bli bygget som høy ytelse datamaskiner. Hyperscale datasentre ble virkelig opprettet for å levere tjenester og lett databehandling til milliarder mennesker. Men i løpet av de siste årene har fremveksten av kunstig intelligens og maskinlæring og dataanalyse lagt så mye belastning på datasentrene, og årsaken er at datastørrelsen og beregningsstørrelsen er så stor at den ikke passer på ett datamaskin. Så det må distribueres på flere datamaskiner, og den høye ytelsesforbindelsen for å la disse datamaskinene jobbe sammen blir mer og mer viktig. Dette er grunnen til at Mellanox har vokst så bra, og hvorfor folk snakker om SmartNIC og intelligente tekstiler og programvaredefinerte nettverk. Alle disse samtalene fører til samme sted, og det er en fremtid der datasenteret er en gigantisk databehandlingsmotor som vil være sammenhengende - og det vil tillate for mange å fortsatt dele det - men tillate for få mennesker å kjøre veldig store applikasjoner på dem også. Vi tror at datamaskinen i fremtiden for datasentre ikke starter og slutter på serveren, men strekker seg ut i nettverket, og selve nettverket vil bli en del av databehandlingen. På lang sikt tror jeg vi har muligheten til å lage databasearkitekturer på datasenter.”

ARM klar for suksess

ARM-brikker driver de fleste mobile enheter over hele verden, slik at arkitekturen forblir strømeffektiv av design. Siden arkitekturen er lisensiert, kan flere silisiumprodusenter med ARM vurderes.

Strømforbruk er fortsatt en stor bekymring for HPC, og bruk av ARM kan i stor grad kompensere for dette problemet. Selv med programvare har Mont-Blanc-prosjektene utviklet mange vitenskapelige biblioteker og verktøy for ARM, og dette spiller en stor rolle i å ta hele økosystemet fremover.

ARMs bruk i HPC og datasentre er fortsatt liten sammenlignet med x86-systemer, men Nvidia ser potensialet her. Deres erkerival AMD har også begynt å konkurrere voldsomt i HPC og datasentermarkedet med sine EPYC-serverprosessorer og Radeon Instinct GPU-akseleratorer. Så det er viktig for Nvidia å ta i bruk ARM nå og tilby programvarepakken sin (CUDA-X HPC, ect). I motsetning til noen produsenter lager Nvidia ikke CPUer, så de mangler CPU-GPU-koherensen AMD og Intel kan tilby.

I ettertid kan Nvidia styrke et partnerskap med ARM, som NextPlatform med rette sier “Nvidia og Arm kan inngå et partnerskap for å gjøre NVLink IP-blokker tilgjengelig for de som kjøper Neoverse-lisenser, noe som muliggjør tettere kobling med GPUer, inkludert minneatom og minnekohærens på tvers av CPU-GPU-beregningskompleksene.”

Dette trekket vil definitivt hjelpe ARMs sak som et levedyktig arkitekturalternativ til x86 HPC. Vi kan forvente et lignende trekk fra AMD en gang i fremtiden da de fortsetter å presse sine Radeon Instinct GPUer aggressivt.