Google lanserar nya TPU:er – 8t och 8i

– Träning och inferens skiljer sig nu åt när det gäller ekonomi, minnesbeteende, nätverksbehov och köpmönster. Kunderna vill i allt högre grad ha rätt pris-prestandakurva för varje steg i modellens livscykel, inte en accelerator som passar alla, säger Fersht.

Sammanhang: ...Faktum är att Google inte är den enda chpipleverantören som går vägen med delad design, säger Stephen Sopko, analytiker på Hyperframe Research, och gav exemplet med AWS, som har två distinkta chipp – Trainium och Inferentia – för olika AI-arbetsbelastningar. ...

Omnämnda personer: Hyperframe Research, Charlie Dai, Stephen Sopko.