Deepseeks låga kostnader kan ha varit ett knep

När Deepseek presenterade sin språkmodell Deepseek R1 V3 var en av detaljerna som fick branschen att höja på ögonbrynen den hade kostat 6 miljoner dollar att utveckla och använde sig av 2048 AI GPU-kretsar. Nu publicerar Semianalysis information om att den

Sammanhang: ...Enligt rapporten låg den kinesiska hedgefonden High-Flyer bakom de initiala investeringarna i det som sedan skulle bli Deepseek, och de investerade uppskattningsvis motsvarande 500 miljoner dollar i 10000 GPU:er redan 2021 för att utveckla AI. När det sedan blev dags att bryta loss Deepseek följde dessa med, och man ska via High-Flyer ha investerad sammanalg motsvarande 1,6 miljarder dollar i hårdvara, inklusive 50000 NVIDIA Hopper GPU:er, vilket ger ett totalt antal på 60000 processorer, och inte 2048 som uppgetts Man ska dessutom ha spenderat upp till 944 miljoner dollar enbart i driftskostnader. ...

Omnämnda platser: Semianalysis.

Nytt säkerhetshål upptäckt i Apple-kretsar

Annons Det är det amerikanska säkerhetsföretaget Trail of Bits som har upptäckt ett säkerhetshål som kan ge angripare tillgång till känsliga data i vissa av Apples grafikprocessorer (GPU:er). Säkerhetsbristen, som har fått benämningen "LeftoverLocals", som

Sammanhang: ...Problemet är särskilt oroande i samband med artificiell intelligens där man i allt större omfattning använder GPU:er vid bearbetning av LLM. Enligt Apple har man patchat bort problemet i nyare enheter med A17 Pro-processorer. ...

Omnämnda personer: Large Language Model.