Här finns riskerna för Nvidia

(Länk till artikeln med grafer, illustrationer och bilder på Placera.se) Risker i kundernas affärsmodeller En av de största riskerna ligger i affärsmodellen hos Nvidias kunder, särskilt stora molnleverantörer och hyperscalers som Amazon Web Services (AWS),

Sammanhang: ...GPU-kostnaderna har stigit dramatiskt. Mellan generationerna A100 till Hopper-generationen (H100) har priserna ökat med cirka 250 procent. Nästa generations GPU, Blackwell-serien förväntas bli ytterligare 20–30 procent dyrare. ...

Omnämnda personer: Google Cloud, Microsoft Azure.

Kinesiska företag kringgår USA:s restriktioner för AI-chipp via molntjänster

Bland dessa var det fyra aktörer som uttryckligen angav Amazon Web Services (AWS) som sin molntjänstleverantör, men som fick tillgång till tjänsterna via kinesiska mellanhänder snarare än direkt från AWS. Dessa anbudsdokument belyser de olika strategier som

Sammanhang: ...Enligt Reuters granskning spenderade Shenzhen University 200 000 yuan (cirka 28 000 dollar) via en mellanhand för att få tillgång till AWS molnservrar som drivs av Nvidias A100- och H100-chipp, som enligt amerikanska bestämmelser inte får exporteras direkt till Kina. På samma sätt efterfrågade Zhejiang Lab, ett forskningsinstitut, AWS molntjänster för sin AI-modellutveckling på grund av otillräcklig datorkraft från lokala leverantörer. ...

Omnämnda platser: USA:s, Kina, Kinas. Omnämnda personer: Michael McCaul.

”Superdator-på-en-krets” med 1 536 kärnor

Den öppna instruktionsuppsättningen RISC‑V har kommit starkt de senaste åren och kommer enligt analytiker ta en allt större del av den totala marknaden för processorer. Det har hittills framför allt handlat om små, strömsnåla kretsar till exempel för användning

Sammanhang: ...Prestandamässigt ger varje krets upp till 24 TFLOPS FP64-beräkningar vid 480 watt, vilket företaget jämför med Nvidias A100 som ligger på 19,5 TFLOPS vid 300 watt. Priset för ett acceleratorkort med två Thunderbird-kretsar kommer ligga kring 6 500 dollar, vilket är mindre än vad ett enda A100 går på....

Omnämnda platser: Techspot, Texas, Austin. Omnämnda personer: Andy Gray, Nvidias A100.

Svenska superdatorn Berzelius får stor uppgradering

Den svenska superdatorn Berzelius, som finns vid Linköpings universitet och som invigdes 2021, kommer till hösten 2024 att uppgraderas. Berzelius är en Nvidia Superpod som är utrustad med 94 DGX A100-system med 8 A100 GPU per nod. Uppgraderingen innebär att

Sammanhang: ...Berzelius är en Nvidia Superpod som är utrustad med 94 DGX A100-system med 8 A100 GPU per nod. Uppgraderingen innebär att superdatorn kommer uppgraderas till den senaste GPU-arkitekturen och därmed dubbla kapaciteten. ...

Omnämnda platser: Berzelius. Omnämnda personer: Alice Wallenbergs Stiftelse, Nvidia Superpod.

Så snabbt hittar RTX 4090 lösenordet

Webbplatser där användare loggar in med användarnamn och lösenord måste lagra dessa lösenord på något sätt, åtminstone om de vill kunna visa någon data som skyddas av lösenordet. Det innebär i praktiken någon form av hashfunktion, en matematisk förvrängning

Sammanhang: ...Ett annat sätt att illustrera det är med en kraftfull AI-server med 10 000 Nvidia A100-kort – något i stil med Chat GPT – som tar en sekund på sig med MD5 men fem dagar med Bcrypt. Med en lösenordshanterare är det enkelt att slumpa fram betydligt längre lösenord än vad som idag är nödvändigt för att hindra ens de mest kraftfulla datorer att gissa rätt. ...

Omnämnda personer: Chat GPT.

AI-jätten rusar – kör om både Amazon och Google

Ekonomi TT Chiptillverkaren Nvidia – AI-hajpens stora vinnare – har i veckan passerat både Google-ägaren Alphabet och Amazon i börsvärde. Milstolparna är bara början på en tillväxtresa som är långt ifrån slut, enligt Nvidias medgrundare och vd Jensen Huang.

Sammanhang: ...Nvidias börsrally hänger samman med en bra tajmning med utveckling av nya typer av extremt kraftfulla chip, med namn som A100, H800 eller RTX4090. De används bland annat i utvecklingen av stora språkrobotar och andra stora AI-projekt som pågår just nu. ...

Omnämnda platser: Bloomberg, New York-börsen, Nvidias.

Meta ska köpa 350 000 Nvidia H100-kort

Metas vd Mark Zuckerberg avslöjar i en video på Instagram att hans företag planerar att införskaffa 350 000 exemplar av Nvidias eftertraktade H100-kort, det kraftfullaste och mest populära kortet för att driva stora AI-modeller som GPT. Varje H100 kostar

Sammanhang: ...Tillsammans med andra kort av olika modeller, som Nvidias äldre A100, kommer Meta ha en total beräkningskapacitet som motsvarar 600 000 H100-kort, säger Mark Zuckerberg. ...

Omnämnda platser: A100, Metas, Mark. Omnämnda personer: Mark Zuckerberg.

The Economist utser Jensen Huang till ”bästa vd 2023”

Nvidia har minst sagt dragit nytta av den stora AI-vågen. Företagets A100 och nya H100 är hett eftertraktade bland det myller av AI-företag som det senaste året har poppat upp som svampar efter ett sensommarregn och med vinstmarginaler andra företag barakan

Sammanhang: ...Nvidia har minst sagt dragit nytta av den stora AI-vågen. Företagets A100 och nya H100 är hett eftertraktade bland det myller av AI-företag som det senaste året har poppat upp som svampar efter ett sensommarregn och med vinstmarginaler andra företag bara kan drömma om har företagets aktiekurs rusat från 112 dollar i oktober 2022 till nära 500 dollar idag. ...

Omnämnda platser: Nubank, Meta. Omnämnda personer: Jensen Huang, David Vélez, Mark Zuckerberg.

Apple släpper sin första LLM

Kallar den för Ferret Apple har i det tysta släppt en ny AI-modell som de kallar Ferret. Modellen är en multimodal Large Language Model (LLM) och har gjorts tillgänglig som ett öppen källkodsprojekt. Ferret introducerades redan

Sammanhang: ...Ferret sägs vara mer exakt än OpenAI:s GPT-4 när det gäller att förstå och beskriva små bildområden och genererar färre fel, eller så kallade hallucinationer. Apple ska ha använt åtta Nvidia A100 GPU:er för att träna Ferret. Företaget har dock inte avslöjat vilket material de har använt för att träna Ferret. ...

Omnämnda platser: Apple. Omnämnda personer: Zhe Gan.

Så stora utsläpp leder AI-boomen till

Maskininlärning har varit hett i flera år men har formligen exploderat det senaste året sedan nya stora modeller som GPT 3/4, Dall-e och Stable Diffusion släpptes för allmänheten. Tusentals företag har startats som på olika sätt försöker tjäna pengar på AI-hajpen,

Sammanhang: ...Som tur är för datorspelare är AI-företagen ute efter kort anpassade för AI med stora mängder grafikminne, och Nvidias aktiekurs har rusat i takt med ökad försäljning av dyra kort som A100 och H100. Men dyr hårdvara är inte den enda kostnaden för att köra modellerna, rapporterar MIT Technology Review. ...

Omnämnda platser: Arxiv. Omnämnda personer: Carnegie Mellon University.