Intel AI platforme ubrzavaju Microsoft Phi-3 GenAI modele

Intel je potvrdio i optimizovao svoj portfolio AI proizvoda za klijente, rubove i data centar za nekoliko Microsoft-ovih Phi-3 familija otvorenih modela. Phi-3 familija malih, otvorenih modela može raditi na hardveru sa nižim brojem računara, lakše ih je podesiti da zadovolje specifične zahtjeve i omogućiti programerima da grade aplikacije koje rade lokalno. Intelovi podržani proizvodi uključuju Intel® Gaudi® AI akceleratore i Intel® Xeon® procesore za aplikacije centara podataka i Intel® Core™ Ultra procesore i Intel® Arc™ grafiku za klijente.

Kao dio svoje misije da dovede AI svuda, Intel kontinuirano ulaže u softverski ekosistem AI sarađujući sa AI liderima i inovatorima.

Intel je radio sa Microsoftom kako bi omogućio podršku za Phi-3 model za svoje centralne procesorske jedinice (CPU), grafičke procesorske jedinice (GPU) i Intel Gaudi akceleratore na dan lansiranja. Intel je takođe ko-dizajnirao apstrakciju akceleratora u DeepSpeed-u, koji je jednostavan za korišćenje softverski paket za optimizaciju dubokog učenja, i proširio automatsku podršku tenzorskog paralelizma za Phi-3 i druge modele na Hugging Face-u.

Veličina Phi-3 modela je dobro prilagođena za korištenje za zaključivanje na uređaju i omogućava lagani razvoj modela poput finog podešavanja ili prilagođavanja na AI PC-ima i rubnim uređajima. Intelov hardver klijenta je ubrzan kroz sveobuhvatne softverske okvire i alate, uključujući PyTorch i Intel® Extension za PyTorch koji se koristi za lokalno istraživanje i razvoj i OpenVINO™ Toolkit za implementaciju modela i zaključivanje.

Intel je posvećen zadovoljavanju generativnih AI potreba svojih poslovnih korisnika i nastaviće da podržava i optimizuje softver za Phi-3 i druge vodeće modele najsavremenijih jezika.