Forskarens varning: AI kan döda oss alla inom tio år

Coxon lämnade sin tjänst vid Anthropic tidigare i veckan, efter att ha tillbringat de senaste tre åren med att träna AI-modeller i forskningssyfte på både Anthropic och konkurrenten OpenAI. På X varnar han nu för en farlig utveckling: ”Inget av bolagen agerar

Sammanhang: ...Den senaste tiden har det inträffat flera incidenter där AI-agenter lyckats fly från sina testmiljöer, rapporterar Wall Street Journal. En svärm av avancerade AI-agenter inuti OpenAI hackade sig in i AI-plattformen Hugging Face, tog kontroll över datorservrar och försökte sedan sopa igen spåren efter sig. ...

Omnämnda personer: Paulina Modlitba, Jacob Coxon, Evan Hubinger.

Varnar för nya AI-verktyget – kallar till krismöte: ”För farlig”

Det amerikanska AI-företaget Anthropic dröjer med att släppa sin nya AI-modell Claude Mythos till allmänheten. Orsaken: den anses vara för farlig. ”AI-modeller har nått en nivå av programmeringsförmåga där de kan överträffa alla – utom de mest skickliga människorna

Sammanhang: ...Det är inte första gången AI-företag varnar för att deras produkter är ”för kraftfulla för världen”, skriver Breakit. År 2019 pausade konkurrenten OpenAI, som står bakom ChatGPT, lanseringen av modellen GPT-2 eftersom man ansåg att världen behövde förbereda sig....

Omnämnda platser: New York Times, Breakit, England. Omnämnda personer: Claude Mythos, Jerome Powell, Elia Zaitsev.