📉 En AI-prompt förbrukar mindre energi än nio sekunders TV-tittande - 33× lägre på ett år

Dela artikeln En medianprompt i Gemini förbrukar 0,24 Wh energi, motsvarande mindre än nio sekunders TV-tittande. Googles AI-infrastruktur har minskat energiförbrukningen med 33 gånger och koldioxidavtrycket med 44 gånger under ett år. Studien visar att

Sammanhang: ...Optimerad inferens och servering inkluderar tekniker som Speculative Decoding som betjänar fler svar med färre AI-acceleratorer. Specialbyggd hårdvara som Googles TPUs är designade för högre prestanda per watt. Den senaste generationen Ironwood är 30 gånger mer energieffektiv än företagets första offentligt tillgängliga TPU. ...

Omnämnda platser: Gemini, Studien. Omnämnda personer: Googles TPUs, Googles Gemini, Googles Water Risk.