Google lanserar nya TPU:er – 8t och 8i

– Träning och inferens skiljer sig nu åt när det gäller ekonomi, minnesbeteende, nätverksbehov och köpmönster. Kunderna vill i allt högre grad ha rätt pris-prestandakurva för varje steg i modellens livscykel, inte en accelerator som passar alla, säger Fersht.

Sammanhang: ...I praktiken skulle möjligheten att välja mellan två TPU-varianter hjälpa företag att undvika att betala kostnader för träning för inferensintensiva arbetsbelastningar, säger Charlie Dai, chefsanalytiker på Forrester. I linje med Dai påpekar Trendforce-analytikern Fion Chiu att det mer kostnadseffektiva 8i-chippet skulle hjälpa företag att implementera större modeller till ett lägre pris. ...

Omnämnda personer: Hyperframe Research, Charlie Dai, Stephen Sopko.

Open AI börjar erbjuda plugins till Codex

Open AI låter meddela att det inom kort ska bli möjligt att ladda ner tillägg till det populära kodverktyget Codex. Tilläggen ska förbättra möjligheten för företag och organisationer att anpassa Codex efter sina egna behov. – Centraliserad kontrollöver

Sammanhang: ... – Centraliserad kontroll över vilka tillägg som tillåts, blockeras eller distribueras gör att kraven på säkerhet, kompatibilitet och operativ förmåga uppfylls, säger Charlie Dai från analysföretaget Forrester i en kommentar till Infoworld. ...

Omnämnda platser: Infoworld, Codex.