Kan neoclouds rubba marknaden för AI-infrastruktur?

Utöver kostnadsbesparingarna skiljer sig neoclouds från mängden genom AI-optimerad databehandling och nätverksfunktioner. – Tillgång till bare-metal eliminerar hypervisorns overhead och ger den underliggande GPU:ns fulla prestanda, säger John Q. Martin,teknikpartner

Sammanhang: ...Dessutom kan den nya anpassade halvledartekniken som utvecklats av hyperscalers också störa framtida framsteg för neoclouds. – AWS:s Trainium, Googles Ironwood och Microsofts Maia ger hyperscalers kostnads- och skalfördelar som neoclouds strukturellt sett inte kan matcha, eftersom de, enligt sin utformning, är NVIDIA-distributörer, säger Gupta. ...

Omnämnda platser: Backblaze, Microsofts. Omnämnda personer: Nigel Gibbons, David Johnson, Scott Sanders.

Google lanserar nya TPU:er – 8t och 8i

– Träning och inferens skiljer sig nu åt när det gäller ekonomi, minnesbeteende, nätverksbehov och köpmönster. Kunderna vill i allt högre grad ha rätt pris-prestandakurva för varje steg i modellens livscykel, inte en accelerator som passar alla, säger Fersht.

Sammanhang: ...TPU 8t, den träningsfokuserade varianten, erbjuder enligt Google nästan tre gånger så hög beräkningsprestanda per pod, större superpods och dubbelt så hög bandbredd mellan chippen jämfört med Ironwood....

Omnämnda personer: Hyperframe Research, Charlie Dai, Stephen Sopko.

Google rullar ut nya AI-chipp – ska utmana Nvidia

I våras presenterades Ironwood, sjunde generationens Tensor Processing Unit (TPU) som har specialanpassats för att köra AI-modeller och AI-agenter. Nu låter Google Cloud meddela att utrullningen av Ironwood har påbörjats, vilket är goda nyheter för företag

Sammanhang: ...I våras presenterades Ironwood, sjunde generationens Tensor Processing Unit (TPU) som har specialanpassats för att köra AI-modeller och AI-agenter. ...

Omnämnda platser: Trillium. Omnämnda personer: Tensor Processing, Google Cloud.