Nytt verktyg visar hur mycket energi chattbotar förbrukar

Hugging Face-utvecklaren Julien Delavande har tagit fram ett nytt verktyg, Chat UI Energy, som visar hur mycket energi som din interaktion med en AI-chattbot förbrukar i realtid. Det hela uppmärksammades först av Zdnet. Du kan själv testa Chat UI Energyvia

Sammanhang: ...Verktyget har formen av en typisk AI-chatt och det går att växla mellan flera AI-modeller i öppen källkod, som Google Gemma 3, Meta Llama 3.3 och Mistral Nemo Instruct. När AI-chattboten sedan levererar utdata kan verktyget beräkna antalet wattimmar det kräver och vad det motsvarar i att exempelvis ladda batteriet på en mobil....

Omnämnda platser: Julien. Omnämnda personer: Meta Llama, Chat UI Energy, Google Gemma.

Google Gemma har öppen källkod och kan köras lokalt på PC

Google har idag introducerat Gemma som är den öppna motsvarigheten till Gemini. I tillkännagivandet kallas Gemma för en lättviktig öppen modell med spjutspetsteknik. Gemma har släppts globalt med start idag i två storlekar: Gemma 2B och Gemma 7B. Språkmodellen

Sammanhang: ...Google Gemma har öppen källkod och kan köras lokalt på PC...

Omnämnda platser: Meta. Omnämnda personer: Google Gemma, PC Google.