Nvidia lansează tesla t4, cel mai rapid card pentru centrele de date

Nvidia și- a anunțat noul GPU pentru învățare automată și inferență în centrele de date. Noua placă Tesla T4 se bazează pe arhitectura Turing și este succesorul actualului model Tesla P4, care acoperă practic toți furnizorii majori de cloud computing.

Nvidia Tesla T4 vrea să revoluționeze centrele de date

Nvidia susține că Tesla T4s sunt semnificativ mai rapide decât P4-urile. Pentru inferențe de limbaj, de exemplu, T4 este de 34 de ori mai rapid decât utilizarea unui procesor și de peste 3, 5 ori mai rapid decât P4. Randamentul maxim pentru Tesla P4 este de 260 TOPS pentru operațiuni întregi pe 4 biți și 65 TOPS pentru operațiuni în virgula plutitoare. T4 este pe o placă standard PCI-e de 75 watt cu profil standard.

Vă recomandăm să citiți postarea noastră despre Detalii despre arhitectura Turing a Nvidia

Cel mai important, Nvidia a proiectat aceste cipuri special pentru inferența AI, ceea ce face din Tesla T4 un GPU atât de eficient pentru realizarea inferențelor este noul Tensor Core al lui Turing. Jensen Huang a vorbit deja despre noul Tensor Core și despre ce poate face pentru jocuri, redare și operațiuni AI. În total, cipul are 320 Tensor Core Turing și 2.560 nuclee CUDA.

Pe lângă noul cip, Nvidia realizează și o actualizare a software-ului TensorRT pentru a optimiza modelele de învățare profundă. Această nouă versiune include, de asemenea, TensorRT Inference Server, un microserviciu complet containerizat pentru inferența centrului de date care se conectează perfect la o infrastructură Kubernetes existentă.

Turing este una dintre cele mai inovatoare arhitecturi Nvidia, chiar și pe piața de jocuri, unde va permite pentru prima dată să folosească radioterapia în timp real pentru a îmbunătăți finisajul grafic al celor mai de vârf jocuri.

Fontul Techpowerup