Microsoft visar upp nytt AI-chipp: Maia 200

Microsoft har nu presenterat Maia 200, ett nytt egenutvecklat chipp optimerat för AI-inferens. Alltså körningen av AI-modeller, snarare än träningen av dem. Chippet är en uppföljare till Maia 100 från 2023 och ska leverera högre prestanda med bättre energieffektivitet.

Sammanhang: ...Maia 200 innehåller över 100 miljarder transistorer och når över 10 petaflops i 4-bitars precision (FP4) samt cirka 5 petaflops i 8-bitars precision (FP8). I jämförelse med konkurrenterna ska Maia 200 leverera tre gånger högre FP4-prestanda än generation tre av Amazons Trainium och bättre FP8-prestanda än Googles TPU v7....

Omnämnda personer: Amazons Trainium, Googles TPU.

Det här är Microsofts nya AI-chip

Maia 200 Microsoft presenterade sitt första AI-chip 2023 och nu är det dags för uppföljaren, Maia 200. Det handlar om ett chip som ska bo i serverhallar, inte våra egna datorer. Det tillverkas av TSMC

Sammanhang: ...Enligt Microsoft levererar Maia 200 över 10 petaFLOPS i FP4 och runt 5 petaFLOPS i FP8. Detta med ett effektuttag på 750 W, vilket är rätt energieffektivt. Chipet kyls förresten med vatten. ...

Omnämnda platser: Microsofts, Des Moines. Omnämnda personer: Peak specifications.

Här är världens snabbaste superdatorer

Jupiter är den fjärde snabbaste superdatorn i världen, efter tre system med x86-chips från AMD och Intel, enligt Top 500. De tre snabbaste superdatorerna på Top 500-listan finns i USA och ägs av det amerikanska energidepartementet. De två främsta superdatorerna

Sammanhang: ...Top 500-mätvärdena baseras på mätning av konventionell datorkapacitet baserad på datatypen FP64 med flyttal, inte AI-prestanda, som baseras på datatyper med låg precision såsom FP32, FP16 och FP8. Detta har lett till att experter ifrågasätter relevansen av Top 500-mätvärdena, särskilt med tanke på AI:s växande inflytande i servrar och applikationer. ...

Omnämnda platser: Nvidias, USA, Top. Omnämnda personer: Top 500, Nvidias GH200-superchipp, Microsofts Eagle.

Alibaba släpper ny version av sin öppna AI-modell Qwen

Den kinesiska e-handelsjätten Alibaba har lanserat en ny version av sin öppna AI-modell, Qwen3-235B-A22B-2507. Modellen uppvisar förbättringar inom områden som resonemang, faktaexakthet, flerspråkighet, kodgenerering och hantering av långa kontextuella sammanhang.

Sammanhang: ...Venture Beat rapporterar att den nu presterar bättre än konkurrenten Kimi-2 från kinesiska Moonshot. Den finns även i en optimerad FP8-version, vilket drastiskt minskar kraven på minne och beräkningskraft – från cirka 88 till 30 gigabyte GPU-minne – samtidigt som inferenshastigheten fördubblas. ...

Nvidia presenterar ny AI-chippen Rubin och Blackwell Ultra

Vera Rubin NVL144 kommer att erbjuda 3,6 exaflops FP4-prestanda och 1,2 exaflops FP8-prestanda. Systemet kommer att innehålla en ny processor kallad Vera, som efterträder de nuvarande Grace-processorerna och kommer att ha 88 egna kärnor och 176 trådar. Det

Sammanhang: ...Den kommer att erbjuda 15 exaflops FP4-inferensprestanda och 5 exaflops FP8-prestanda, och inkluderar det snabbare HBM4e-minnet, som överför data med 4,6PBps, och den nya NVLink 7-interconnect. ...

Omnämnda personer: Blackwell Ultra, Vera Rubin, Rubin GPU:er.

Deepseek skakar AI-jättarna – kommer chocken hålla i sig?

När organisationer fortsätter att anamma generativa AI-verktyg och plattformar och utforska hur de kan skapa effektivitet och öka arbetsproduktiviteten, kämpar de också med de höga kostnaderna och komplexiteten i tekniken. Deepseek förbättrade minnesbandbreddseffektiviteten

Sammanhang: ...Deepseek förbättrade minnesbandbreddseffektiviteten med två viktiga innovationer: genom att använda en minnesalgoritm på lägre nivå och genom att byta från FP32 (32-bit) till FP8 (8-bit) för träning av modellprecision. – De använder samma mängd minne för att lagra och flytta mer data, säger Dekate. ...

Nvidia avtäcker B200 "Blackwell" – tvådelad monsterkrets med 208 miljarder transistorer

Under gårdagen rivstartade Nvidia sin utvecklarkonferens GTC, där bolagets VD Jensen Huang tog tillfället i akt att avtäcka den senaste generationens arkitektur för beräkningskretsar – Blackwell. I fokus ligger den nya monsterkretsen B200, vilken mer än dubblerar

Sammanhang: ...Gällandes prestanda redovisar Nvidia siffror från GB200-lösningen och ställer denna mot sin motsvarighet i Hopper-familjen. Vid FP8-instruktioner presterar Blackwell 2,5 gånger bättre än Hopper med en teoretisk beräkningskraft på 20 PFLOPS. ...

Omnämnda platser: Ampere.

AMD släpper beräkningskretsarna Instinct MI300 – utmanar Nvidia om AI-kronan

Att efterfrågan på kretsar för AI-tillämpningar och maskininlärning har ökat explosionsartat det senaste året råder det inget tvivel om. Ett kvitto på detta är Nvidias senaste kvartalsrapport, vilken visade nya rekordsiffror i försäljning för bolagets datacenter-division,

Sammanhang: ...Enligt AMD:s egna siffror kan MI300X inte bara tävla med Nvidias H100-krets, utan även slå den på fingrarna vid flertalet scenarion. Vid exempelvis flyttalsberäkningar med FP8- och FP16-instruktioner syns ett prestandaövertag på 30 procent. Även prestandan med stora språkmodeller (LLM) likt Llama2 ska vara bättre med AMD:s krets, där övertaget ligger mellan 10 och 20 procent högre. ...

Omnämnda platser: AMD, FP8-, Nvidias. Omnämnda personer: Grace Hopper, Nvidias Grace Hopper.