Forskare kör chattbot på Pentium 2 och Windows 98

Det vi vanligen får höra är att AI baserad på så kallade stora språkmodeller kräver enorma datacenter för att tränas. Även att köra dem kräver normalt en dator med kraftfullt grafikkort eller en modern NPU. Men det är vanskligt att dra alla modeller överen

Sammanhang: ...Forskare på organisationen EXO Labs har nämligen lyckats köra en chattbot baserad på Metas öppna källkod-modell Llama-2 på en dator med Penium 2-processor på 350 MHz, 128 MB arbetsminne och Windows 98. Modellen i fråga bygger på Andrej Karpathys Llama2.c, och forskarna använde en modell med 260 000 parametrar, rapporterar Techspot. ...

Omnämnda platser: Metas, Andrej.