Nytt verktyg visar hur mycket energi chattbotar förbrukar

Hugging Face-utvecklaren Julien Delavande har tagit fram ett nytt verktyg, Chat UI Energy, som visar hur mycket energi som din interaktion med en AI-chattbot förbrukar i realtid. Det hela uppmärksammades först av Zdnet. Du kan själv testa Chat UI Energyvia

Sammanhang: ...Verktyget har formen av en typisk AI-chatt och det går att växla mellan flera AI-modeller i öppen källkod, som Google Gemma 3, Meta Llama 3.3 och Mistral Nemo Instruct. När AI-chattboten sedan levererar utdata kan verktyget beräkna antalet wattimmar det kräver och vad det motsvarar i att exempelvis ladda batteriet på en mobil....

Omnämnda platser: Julien. Omnämnda personer: Meta Llama, Chat UI Energy, Google Gemma.

Mistral släpper sin första multimodala AI-modell

Den franska AI-startupen Mistral har släppt sin första multimodala modell, Pixtral 12B, som kan hantera både text och bild, rapporterar Techcrunch. Modellen bygger på Mistrals textmodell Nemo 12B och använder sig av 12 miljarder parametrar. Pixtral 12B kan

Sammanhang: ...Den franska AI-startupen Mistral har släppt sin första multimodala modell, Pixtral 12B, som kan hantera både text och bild, rapporterar Techcrunch. Modellen bygger på Mistrals textmodell Nemo 12B och använder sig av 12 miljarder parametrar. Pixtral 12B kan svara på frågor om bilder via webbadresser eller bilder kodade med base64. ...

Omnämnda platser: Github.

Nya Nvidia-modeller ska generera syntetiska data till AI-träning

Nvidia har lanserat Nemotron-4 340B, en serie med öppna modeller avsedda för att producera syntetiska data som kan användas för att träna stora språkmodeller. Syntetiska data är data som inte är insamlade från verkliga observationer eller händelser utan skapade

Sammanhang: ...Modellerna i Nemotron-4 340B är anpassade för att integreras med Nvidia NeMo och TensorRT-LLM för att optimera träning och inferens. De kan laddas ner kostnadsfritt via Hugging Face....

Omnämnda platser: Nemotron-4, Modellerna. Omnämnda personer: Nvidia NeMo.