Google lanserar nya TPU:er – 8t och 8i

– Träning och inferens skiljer sig nu åt när det gäller ekonomi, minnesbeteende, nätverksbehov och köpmönster. Kunderna vill i allt högre grad ha rätt pris-prestandakurva för varje steg i modellens livscykel, inte en accelerator som passar alla, säger Fersht.

Sammanhang: ...Kunderna vill i allt högre grad ha rätt pris-prestandakurva för varje steg i modellens livscykel, inte en accelerator som passar alla, säger Fersht. I praktiken skulle möjligheten att välja mellan två TPU-varianter hjälpa företag att undvika att betala kostnader för träning för inferensintensiva arbetsbelastningar, säger Charlie Dai, chefsanalytiker på Forrester. ...

Omnämnda personer: Hyperframe Research, Charlie Dai, Stephen Sopko.