Forskarens varning: AI kan döda oss alla inom tio år

Coxon lämnade sin tjänst vid Anthropic tidigare i veckan, efter att ha tillbringat de senaste tre åren med att träna AI-modeller i forskningssyfte på både Anthropic och konkurrenten OpenAI. På X varnar han nu för en farlig utveckling: ”Inget av bolagen agerar

Sammanhang: ...Flera incidenter Med nuvarande AI-modeller är risken låg menar han, samtidigt uppger Hubinger att utvecklingen accelererar snabbare och snabbare när systemen kan förbättra sig själva utan mänsklig input, genom så kallad ”rekursiv självförbättring”. Han menar att företaget ännu inte har någon plan för att säkerställa att ett AI-system som överträffar mänsklig förmåga skulle lyda sina skapare. ...

Omnämnda personer: Paulina Modlitba, Jacob Coxon, Evan Hubinger.