Forskarens varning: AI kan döda oss alla inom tio år

Coxon lämnade sin tjänst vid Anthropic tidigare i veckan, efter att ha tillbringat de senaste tre åren med att träna AI-modeller i forskningssyfte på både Anthropic och konkurrenten OpenAI. På X varnar han nu för en farlig utveckling: ”Inget av bolagen agerar

Sammanhang: ...Anthropic-forskaren: Vi tror att AI kan döda oss Företrädare för företagen, forskare och chefer, som utåt sett tonar ner sina formuleringar för att framstå som förnuftiga, uttrycker samtidigt oro bakom stängda dörrar, enligt Jacob Coxon. ”På Anthropic är man väl införstådda om insatserna, men är låsta vid en kapplöpning om att komma först – de tror att ingen annan kommer att agera ansvarsfullt, så de måste göra det själva, trots risken”, skriver Coxon. Han får medhåll av Evan Hubinger, säkerhetsforskare på Anthropic. ”Vi tror verkligen på fullt allvar att AI skulle kunna döda alla människor”, skriver han på X och uppger att hans personliga bedömningen är att risken att det sker inom det närmaste årtiondet är över tio procent. ...

Omnämnda personer: Paulina Modlitba, Jacob Coxon, Evan Hubinger.