Nvidia DGX och Mac Studio dunderduo för lokal AI

Nvidias nya mini-PC DGX Spark har med sin GB10 Grace Blackwell-systemkrets minst sagt rejält tilltagen beräkningskapacitet för maskininlärning och AI. Men det delade primärminnets bandbredd på 273 GB/s blir en flaskhalls om datorn används för att köra stora

Sammanhang: ...EXO:s mjukvara kan fördela arbetet med att köra en språkmodell på olika maskiner, så utvecklarna lät DGX Spark göra det så kallade prefill-stadiet och Mac Studio göra token-genereringen. Konfiguration Prefill Generation Total tid Uppsnabbning DG Spark 1,47s 2,87s 4,345 1,9x M3 Ultra Mac Studio 5,57s 0,85s 6,42s 1,0x DGX Spark + M3 Ultra 1,47s 0,85s 2,32s 2,8x Resultatet blev 180 procent snabbare än med enbart Mac Studio och nästan 50 procent snabbare än med enbart DGX Spark. ...

Omnämnda platser: Metas. Omnämnda personer: Mac Studio, Apples Mac Studio, Prefill Generation.

Cyberpunk 2077 visar vad Apples grafikkretsar går för

Tyska sajten Computerbase har gjort ett lite ovanligt test av grafikprestandan i spelet Cyberpunk 2077 på olika Mac-modeller med Apple Silicon-processorer. Istället för att ta ett mindre urval modeller har sajten bett läsarna skicka in testresultat från sina

Sammanhang: ...Computerbase har nästan enbart fått in resultat från olika Macbook-modeller. Varken Mac Studio eller Mac Pro syns på resultatlistan, men däremot Mac Mini. Det kan delvis bero på att upplösningarna i 16:10-format är ovanliga på stationära skärmar. ...

Omnämnda platser: Cyberpunk. Omnämnda personer: Mac OS, Resident Evil, Mac Mini.