⚡ En AI-fråga drar lika lite energi som en mikrovågsugn i en tiondels sekund

Dela artikeln En enkel textfråga till AI använder bara 114 joule - lika mycket som att köra mikrovågsugnen i en tiondels sekund. Att generera en högkvalitativ bild kräver 2 282 joule, vilket motsvarar fem och en halv sekund i mikrovågsugnen. Även den största

Sammanhang: ...Öppna modeller möjliggör noggrann mätning Forskarna använde specialverktyg för att mäta energiförbrukningen hos GPU-chips av typen H100, som används i de flesta AI-datacenter. De fann att fördubblingen av GPU:ns energiförbrukning ger en bra uppskattning av hela systemets energibehov, inklusive processorer, fläktar och kylning. ...

Omnämnda personer: Meta's Llama, Google Gemini.