Intel’s Habana Labs predstavila drugu generaciju AI procesora

Na nedavnom skupu Intel Vision, Intel je objavio da je Habana Labs, njihov data center team fokusiran na AI deep learning procesorske tehnologije, predstavio drugu generaciju procesora namijenjenog za obuku i zaključivanje: Habana® Gaudi®2 i Habana® Greco™. Ovi novi procesori namijenjeni su prevladavanju praznine u industriji osiguravajući korsnicima visoke performansnu, visoku efikasnu deep learning računalni odabir namijenje kako za upravljanje i obuku radnim opterećenjima tako i za primjene zaključivanja u podatkovnim centrima smanjujući tako AI prepreku za ulazak tvrtki svih veličina. 

“Predstavljanje novih Habaninih procesora za dubinsko učenje izvrstan je primjer Intelove provedbe vlastite strategije razvoja umjetne inteligencije kako bi kupcima pružio široku lepezu pri izboru rješenja – sve od clouda pa do krajnjeg ruba infrastrukture – za rješavanje sve većeg broja i složene prirode koji se javljaju kod AI radnih opterećenja. Gaudi2 može pomoći Intelovim korisnicima da obuče sve veća i složenija radna opterećenja dubokog učenja uz  višu brzinu i učinkovitost, a mi očekujemo učinkovitost kod AI zaključivanja koju će Greco donijeti.” – Sandra Rivera, izvršna potpredsjednica Intela i generalna direktorica Datacentra i AI grupe

Zašto je to važno

Novi Gaudi2 i Greco procesori su namjenski procesori stvoreni za AI deep learning aplikacije, implementiranu u 7-nanometerasku tehnologiju i proizvedenu na Habaninoj visoko efikasnoj arhitekturi. Na Intel Vision skupu, Habana Labs predstavila je Gaudi2 performanse kroz propusnu obuku za ResNet-50 računalni  model te BERT prirodno jezično porcesni model u kojem je ostvarila dvostruko višu propusnost obuke u odnosu na Nvidia A100-80GB GPU jedinicu.

“U usporedbi s A100 GPU jedinicom, implementiranoj u istoj jezgri te otprilike iste veličine, Gaudi2 donosi vodeće performanse za obuku kao što je predstavlkjeno u demonstraciji s "apples-to-apples" usporedbi kod ključnih opterećenja,” izjavila je Eitan Medina, COO Habana Labs. “Ova arhitektura za ubrzanje dubokog učenja je efikasnija i potpomognuta s snažnom primjenom.”

O Gaudi2

Gaudi2 procesor za duboko učenje donosi:

• Učinkovitost treninga s dubokim učenjem: procesor Habana Gaudi2 značajno povećava performanse treninga, nadovezujući se na istu visokoučinkovitu Gaudi arhitekturu prve generacije koja pruža do 40% bolje cijene u AWS oblaku s instancama Amazon EC2 DL1 i na lokalnoj razini s Supermicro Gaudi poslužitelj za obuku. S skokom u procesu sa 16 nm Gaudi na 7 nm, Gaudi2 daje značajan poticaj svojim računalnim, memorijskim i mrežnim sposobnostima. Gaudi2 također predstavlja integrirani mehanizam za obradu medija za komprimirane medije i rasterećenje glavnog podsustava. Gaudi2 utrostručuje kapacitet memorije u pakiranju s 32 GB na 96 GB HBM2E pri propusnosti od 2,45 TB/s i integrira 24 x 100 GbE RoCE RDMA NIC-a, na čipu, za povećanje i skaliranje pomoću standardnog Etherneta.

• Prednosti za kupce: Gaudi2 korisnicima pruža alternativu za obuku dubinskog učenja većih performansi postojećem ubrzanju temeljenom na GPU-u, što znači da mogu trenirati više i trošiti manje, pomažući u smanjenju ukupnih troškova vlasništva u oblaku i podatkovnom centru. Napravljen za rješavanje mnogih tipova modela i aplikacija na krajnjem tržištu, kupci mogu imati koristi od Gaudi2 bržeg vremena za obuku, što može rezultirati bržim vremenom do uvida i bržim vremenom do stavljanja na tržište. Gaudi2 je dizajniran da značajno poboljša vizualno modeliranje aplikacija koje se koriste u autonomnim vozilima, medicinsko snimanje i otkrivanje kvarova u proizvodnji, kao i aplikacije za obradu prirodnog jezika.

• Kapacitet umrežavanja, fleksibilnost i učinkovitost: Habana je učinila da kupcima bude isplativo i jednostavno povećanje kapaciteta za obuku povećanjem propusnosti za obuku na Gaudiju druge generacije. Uz integraciju industrijskog standarda RoCE na čipu, kupci mogu jednostavno skalirati i konfigurirati Gaudi2 sustave kako bi zadovoljili svoje zahtjeve klastera dubokog učenja. S implementacijom sustava na široko korištenom industrijskom standardu Ethernet povezivosti, Gaudi2 omogućuje kupcima da biraju između širokog spektra Ethernet komutacije i povezane mrežne opreme, omogućujući uštedu troškova. Izbjegavanje vlasničkih tehnologija međusobnog povezivanja u podatkovnom centru (kao što ih nudi konkurencija) važno je za donositelje IT odluka koji žele izbjeći "zaključavanje" jednog dobavljača. Integracija portova kontrolera mrežnog sučelja (NIC) na čipu također smanjuje troškove komponenti.

• Pojednostavljena izrada i migracija modela: Habana® SynapseAI® softverski paket optimiziran je za razvoj modela dubokog učenja i za olakšavanje migracije postojećih modela temeljenih na GPU-u na hardver Gaudi platforme. Softver SynapseAI podržava modele obuke na Gaudi2 i njihovo izvođenje na bilo kojem cilju, uključujući Intel® Xeon® procesore, Habana Greco ili sam Gaudi2. Programeri su podržani dokumentacijom i alatima, sadržajem s uputama i forumom za podršku zajednice na Habana Developer Site-u s referentnim modelima i planom puta modela na Habana GitHub. Početak rada s migracijom modela jednostavan je kao dodavanje dva retka koda; za stručne korisnike koji žele programirati vlastite kernele, Habana nudi cijeli paket alata.

• O dostupnosti Gaudi2 rješenja za obuku: Gaudi2 procesori su dostupni sada Habana kupcima. Habana se udružila sa tvrtkom Supermicro kako bi ove godine na tržište izbacila Supermicro Gaudi2 Training Server. Habana se također udružila s DDN® kako bi isporučila rješenja na razini stalka po principu „ključ u ruke“ koja sadrže Supermicro poslužitelj s povećanim kapacitetom AI pohrane uz uparivanje rješenja za pohranu DDN AI400X2.