Eficiența energetică devine prioritate zero în AI: Google Cloud a lansat generația a 8-a de TPU și arhitectura Agentic Data Cloud

♦ Noile TPU 8t pentru antrenare oferă o performanță de 3 ori mai mare față de generația anterioară și o eficiență flops per watt dublă față de competiție. ♦ Sistemul TPU 8i, specializat pentru inferență, aduce o îmbunătățire de 80% a memoriei SRAM și o latență aproape de zero pentru agenții de producție. ♦ Securitate bazată pe agenți: Noii agenți pentru Threat Hunting și detecție automatizată identifică problemele de pe „dark web” cu o acuratețe de 98%.

Într-o perioadă în care consumul masiv de energie și costurile de procesare devin principalele obstacole în scalarea inteligenței artificiale, Google Cloud a anunțat săptămâna trecută lansarea a două noi arhitecturi hardware specializate: TPU 8t și TPU 8i. Această strategie marchează o separare clară a sarcinilor de calcul, oferind un motor dedicat pentru antrenarea modelelor masive și unul optimizat exclusiv pentru inferență, respectiv execuția sarcinilor. Noua infrastructură, parte a conceptului AI Hypercomputer, integrează hardware-ul personalizat cu progrese majore în stocare și networking pentru a oferi o eficiență de calcul superioară, esențială pentru organizațiile care trec de la faza de testare la producția de masă în era AI-ului agentic.

„Am proiectat aceste sisteme pentru a fi extrem de eficiente din punct de vedere al consumului de energie, deoarece am considerat că eficiența energetică va deveni o constrângere pe măsură ce companiile continuă să scaleze atât procesele de antrenare, cât și pe cele de inferență”, a declarat Thomas Kurian, CEO, Google Cloud.