Deepseek drog ner brallorna på Open AI

1. Träningen. Deepseeks AI-modeller är tränade på ett snillrikt sätt som gjort att kostnaden varit rejält mycket lägre än vad AI-branschen är van vid. Det handlar bland annat om förbättrad minneseffektivitet och att mänsklig feedback tagits bort i träningen,

Sammanhang: ...Det i sig har lett till innovation eftersom Deepseeks utvecklare tvingades runda Nvidias Cuda-arkitektur för att optimera kommunikationen mellan chippen i klustret på 2 048 GPU:er de använde. ...

Omnämnda platser: Metas, Nvidias H800-chipp, USA. Omnämnda personer: Chat GPT, Yann LeCun.

Nvidias Project Digits sätter “AI-superdator“ på skrivbordet

Nvidia släpper nu en “personlig AI-superdator”, Project Digits. Den modulära lilla enheten innehåller hårdvaruföretagets AI-chipp GB10 Grace Blackwell Superchip och kan användas för att träna och justera stora språkmodeller. Grace Blackwell-plattformen används

Sammanhang: ...Dess GB10 Grace Blackwell Superchip innehåller 20 ARM-kärnor i CPU:n och en blandning av CUDA-kärnor, RT-kärnor och femte generationens tensorkärnor i GPU:n. Den är också utrustad med 4 terabyte NVMe-lagring, 128 gigabyte DDR5X-minne och kan anslutas till ett vanligt vägguttag. ...

Omnämnda personer: Nvidias Project, Grace Blackwell Superchip.

Buggig Huawei-mjukvara gör det svårt för Kina att ersätta Nvidia

Kinas arbete för att komma ikapp USA inom AI uppges ha hindrats av buggig programvara. Financial Times skriver att Huawei-kunder då ska klaga på att företagets AI-chipp inte presterar tillräckligt bra och försvårar bytet från Nvidia-produkter. Bytet från

Sammanhang: ...Inom Kina är det istället Huawei som leder utvecklingen av AI-hårdvara men deras Ascend-serie ska ha haft problem med stabilitet, långsam chippkommunikation och programvaran Cann ska inte kunna hålla jämna steg med Nvidias plattform Cuda. För att åtgärda problemen ska Huawei skickat ingenjörer till kunder för att hjälpa till med övergången. ...

Omnämnda platser: USA, Kina, Nederländerna.

Analytiker: osannolikt att Nvidia åker dit i konkurrens-granskning

De anser att företaget ”har gjort klart att det avser att rida på AI-vågen så länge och så långt det kan, och dess häpnadsväckande dominans inom GPU-acceleratorchipp – det har nu en total global marknadsandel på 80 procent inom GPU-chipp och en andel på 98

Sammanhang: ...Så Nvidia drar i spakarna för att öka sina intäkter och kompletterande produkter och tjänster, som CUDA-plattformen, kablage och serverrack. Företagets största kunder, säger han, ”kämpar emot och säger: Vi vill göra det på vårt sätt, ni måste anpassa er, vi vill ha det antal och den mängd chipp som vi vill ha. ...

Omnämnda personer: Nvidias GPU.

Nvidias kunder och rivaler arbetar på mjukvara som ska bryta företagets AI-dominans

Både Nvidias rivaler såväl som några av företagets största kunder har nu gått samman för att göra det enklare för AI-utvecklare att använda annat än Nvidias hårdvara, rapporterar Financial Times. Nvidia dominerar i dagsläget marknaden för AI-hårdvara men

Sammanhang: ...Nvidia dominerar i dagsläget marknaden för AI-hårdvara men en av företagets styrkor är också mjukvaruplattformen Cuda, som gör det möjligt att använda hårdvara gjord för grafik till att förbättra AI-applikationer. Cuda har samtidigt anklagats för att stänga in AI-utvecklare i Nvidias produkter. ...

Omnämnda platser: Nvidias.