Ny AI-teknik kan halvera kostnader för språkmodeller

Den nya modellen, DeepSeek-V3.2-Exp, använder en teknik kallad DeepSeek Sparse Attention (DSA). Den bygger vidare på tidigare forskning kring så kallad "sparse attention", där endast de mest relevanta relationerna mellan ord analyseras. Metoden har tidigare

Sammanhang: ...Modellen kanske bara kontrollerar sitt förhållande till 100 noggrant utvalda tidigare ord snarare än alla 4 999 föregående ord. Ars Technica. Genom denna selektiva metod minskar den totala mängden beräkningar kraftigt, särskilt i konversationer med många ord eller långa textsekvenser. ...

Omnämnda personer: Google Research.