Kina startar världens första vinddrivna datacenter under vatten

Utanför Shanghai i Kina har världens första undervattensdatacenter drivet av havsbaserad vindkraft nu börjat användas, rapporterar The Guardian. Anläggningen ska minska både energiförbrukningen och behovet av färskvatten jämfört med traditionella datacenter.

Sammanhang: ...Utanför Shanghai i Kina har världens första undervattensdatacenter drivet av havsbaserad vindkraft nu börjat användas, rapporterar The Guardian. Anläggningen ska minska både energiförbrukningen och behovet av färskvatten jämfört med traditionella datacenter. Shanghai Lingang Undersea Datacentre Project togs i drift i maj och har en kapacitet på 24 megawatt. ...

Omnämnda platser: Shanghais, Shanghai, Kina.

Störst inte alltid bäst – små språkmodeller kan vara det rätta valet

– Mönstret liknar snarare en bättre arbetsfördelning, säger Thomas Randall, forskningschef på Info-Tech Research Group. – En routingarkitektur skickar enkla eller väl avgränsade frågor till en specialiserad liten modell och komplexa frågor till en stor modell.

Sammanhang: ...Kvantisering: Värden reduceras från hög precision till lägre precision (det vill säga flyttalsnummer konverteras till heltal) för att minska datastorleken, påskynda bearbetningen och optimera energiförbrukningen. Större modeller kan också modifieras och destilleras till mindre, mer specialiserade modeller genom tekniker som retrieval-augmented generation (RAG), när de tränas att hämta information från pålitliga källor innan de genererar ett svar, finjustering och promptjustering för att styra svaren till specifika områden, eller LoRa (low-rank adaptation) som lägger till lätta delar till en originalmodell för att minska dess storlek och omfattning, snarare än att omskola eller modifiera hela modellen. ...

Omnämnda platser: Kunskapsdestillering. Omnämnda personer: Info-Tech Research Group, Thomas Randall, Sumit Agarwal.

Open AI-chefen: “Människor kräver också mycket energi”

Open AI:s vd Sam Altman gästade nyligen konferensen Express Adda och sa att debatten om AI:s energiförbrukning ofta blir missvisande eftersom man jämför energin för att träna AI med energin för en enskild mänsklig uppgift. – Men det krävs också mycket energi

Sammanhang: ...Altman avfärdade också påståenden om att en Chat GPT-fråga skulle motsvara 1,5 Iphone-laddningar och kallade uppgifter om stor vattenförbrukning per fråga för överdrivna eller felaktiga. Samtidigt medgav han att den totala energiförbrukningen från AI-användning är ett verkligt problem och att världen snabbt behöver mer kärnkraft, vind och solenergi....

Omnämnda platser: Express Adda. Omnämnda personer: Sam Altman.

Amazon lanserar kraftfulla AI-chippet Trainium 3

I samband med konferensen re:Invent 2025 har Amazon Web Services (AWS) presenterat Trainium 3, ett nytt AI-chipp som baseras på den senaste 3-nanometerstekniken. Jämfört med sin föregångare i serien sägs Trainium 3 erbjuda fyra gånger högre prestanda och

Sammanhang: ...Jämfört med sin föregångare i serien sägs Trainium 3 erbjuda fyra gånger högre prestanda och fyra gånger så mycket minne, samtidigt som energiförbrukningen har minskat med 40 procent. Tanken är att Trainium 3 ska utgöra grunden i Trainium 3 Ultraserver, ett nytt system som också presenterades på konferensen. ...

Behöver du verkligen alla dessa GPU:er?

Ett dramatiskt prisfall Nya rapporter visar att priserna på molnbaserade, högt efterfrågade GPU:er har rasat. Till exempel sjönk kostnaden för en AWS H100 GPU Spot Instance med hela 88 procent i vissa regioner, från 105,20 dollar i början av 2024 till 12,16

Sammanhang: ...En chattbot för interna HR-frågor eller ett system som är utformat för att prognostisera energiförbrukningen kräver inte samma hårdvara som ett banbrytande AI-forskningsprojekt. Många företag inser att det är mer en fråga om prestige än nödvändighet att hålla fast vid dyra GPU:er. ...

Omnämnda personer: Nvidias GB200.