Intel Nervana Neural Network AI-prosessor kansellert til fordel for Habana Labs-løsninger?
I en ganske forvirrende hendelse har Intel besluttet å skrote planene sine for å videreutvikle sin lovende Nervana Neural Network Processor for treningslinjen. Avgjørelsen kommer bare to måneder etter at den sterkt forsinkede Nervana NNP-familien offisielt ble lansert. Selv om det ikke er bekreftet, er det forvirrende trekket sannsynligvis resultatet av Intels nylige oppkjøp av Habana Labs.
Bare to måneder etter Intel kjøpte Habana Labs for $ 2 milliarder dollar, førstnevnte har aksentert sitt eget Nervana Neural Network Processor-prosjekt beregnet på kunstig intelligensopplæring. Forresten er det ikke overraskende at Intel skrotet det samme. Dette er fordi det var ganske overflødig og kontraproduktivt å fortsette å investere i to konkurrerende AI-orienterte produkter. Det var bare logisk at en av de to sjetongene, som er arkitektonisk veldig forskjellige, men ment for de samme markedene, ville bli droppet fra videre utvikling.
Intel utrangerer Nervana NNP-familien til fordel for Habana Labs-produktet, men vil respektere kundens forpliktelser:
Intel ser ut til å ha bestemt seg for å avvikle utviklingen av sin egen Nervana NNP-familie av AI-prosessorer. Imidlertid vil Intel NNP-I fortsette litt lenger på grunn av kundeforpliktelser. Intel vil likevel til slutt avvikle all utvikling til fordel for Habana-sjetongene. Interessant, Intel kunngjorde også 3. generasjons Movidius VPUer, kodenavn Keem Bay. Selskapet har bekreftet at Movidius-veikartet for visjonsbehandling forblir uendret.
Selv om oppkjøpet av Habana Labs av Intel gir mye mening, er det ikke avviklingen av sin egen interne design for førstnevnte. Forresten, ingen av AI-sjetongene fra noen av selskapene har blitt testet uavhengig av hverandre, og deres detaljerte spesifikasjoner og referanser ble offentliggjort. Likevel tilbyr de offisielt utgitte spesifikasjonene, funksjonene og ytelsesegenskapene til Nervana NNP-familien av AI-prosessorer og de som er utviklet av Habana Labs mye å sammenligne dem.
Intel Nervana-produktene selges underNNP-merke mens Habana pleide å selge underHL-serien. Både Nervana og Habana tilbyr et standardisert PCIe-kort og en OAM mezzanine-modul. Enkelt sagt, fysisk ser begge produktene ut. Videre har disse sjetongene 32 GB HBM2-minne. Intels Nervana-brikker har litt høyere TDP og høyere klokket minne, men interessant, de bruker lavere strøm under faktisk drift.
Intel Chips er basert på Spring Crest Microarchitecture, mens Habana Labs 'chips er basert på Gaudi Microarchitecture, og det er her forskjellene blir tydelige. Det mangler flere viktige opplysninger som forhindrer detaljert sammenligning. Imidlertid er det ganske åpenbart at Intels Nervana-design er mye mer kompleks. Spring Crest implementerer et jevnt 2D-nett med 24 Tensor Processor Clusters (TPCs), som hver klynge består av en On-Chip Router (OCR), kontrollen, MAC Processing Units (MPU) og minnesubsystemet. Det er omtrent to MPUer per klynge.
Nervana-systemet sørger for at data forblir lokalisert, reduserer dataflytting og forbedrer gjenbruk. I tillegg jobbet Intel angivelig også med en ICL-bryter for å gi ytterligere fleksibilitet, i tillegg til parallellismen som allerede ble bakt direkte inn i arkitekturen. Det er ingen offisielle skaleringsverdier fra Habana, men pre-produksjonsbrikker fra Nervana viste angivelig god skaleringsutnyttelse over 100-tallet noder med svært lave ventetider, selv i store overføringsstørrelser.
Hvorfor skrapte Intel sine egne effektive, overlegne og svært skalerbare Nervana-chips til Habana Labs?
Selv om eksakte detaljer er litt vanskelige å få tak i, ser Nervana-familien ut til å være teknologisk overlegen sammenlignet med alternativene presentert av Habana Labs. Intel hevder at Habana-enhetlige arkitektur er en "strategisk fordel". Intels beslutning kan ha å gjøre med markedsdynamikk rundt tilgjengeligheten av HBM-minne, ettersom Habana Labs 'produkter også kan fungere med standard DDR4-grensesnitt.
Eksperter hevder imidlertid at beslutningen om å forlate Nervana kan ha å gjøre med nivået på programvareutvikling. Første generasjons Nervana NNP (Lake Crest) hadde tidligere opplevd programvarerelaterte problemer på grunn av bruk av datatypen Flexpoint, og tvang Intel til å velge bfloat16. Uansett årsak vil oppkjøpet av Habana Labs tillate Intel å få markedsandeler i det voksende AI ASIC-markedet, og dermed kan beslutningen også ha vært inspirert av økonomi.