Anthropics egna forskare: Över 10 procents risk att AI utplånar mänskligheten

En säkerhetsforskare lämnar Anthropic och anklagar bolaget för att spela med mänsklighetens liv. Timmar senare bedömer en kollega som fortfarande är anställd att sannolikheten för att AI dödar alla människor överstiger tio procent inom ett decennium. OchAnthropic

Sammanhang: ...Det är insiders med direkt insyn i ett av världens mest inflytelserika AI-bolag som offentligt erkänner att plan saknas för värsta tänkbara scenario. Avgång – och skarp kritik Jacob Coxon meddelade sin avgång på X under tisdagen och riktade skarp kritik mot sitt tidigare bolag och dess närmaste konkurrent. ...

Omnämnda personer: Jacob Coxon, Evan Hubinger.

Anthropic vill bromsa AI – stöds av Musk och Altman

”Vi måste sakta ner farten med vilken vi förbättrar AI-modellernas förmågor. Utvecklingen kommer fortfarande att upplevas som snabb, och vi måste använda tiden vi vinner på ett förnuftigt vis”, heter det i inlägget, enligt CNN. Enligt Amodei har utvecklingen

Sammanhang: ...Liknande tongångar hörs från entreprenören och miljardären Elon Musk, som i ett X-inlägg konstaterar att ”Dario har rätt”. AI-forskaren Jacob Coxon, som nyligen hoppat av Anthropic i protest och tidigare även jobbat på Open AI, anser att ingen av de båda AI-jättarna agerar ansvarsfullt. ”De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut”, skrev han nyligen på X....

Omnämnda platser: X., Amodei. Omnämnda personer: Elon Musk, Sam Altman, Jacob Coxon.

AI-jättens vd: AI-utvecklingen borde bromsas

Kapplöpningen för att utveckla artificiell intelligens måste saktas ner. Enligt Amodei har utvecklingen de senaste månaderna gått ”betydligt fortare” och AI-teknologin besitter nu förmågan att förbättra sig själv. ”Om detta inte tas med i beräkningen kan

Sammanhang: ...Essän publiceras mitt i en brinnande debatt kring AI-verktygens framfart där fler tunga namn nyligen varnat för AI:s oreglerade framfart. AI-forskaren Jacob Coxon, som har arbetat för flera AI-företag skrev nyligen en tråd på X att AI som spårar ut kan utplåna mänskligheten inom det kommande decenniet. ...

Omnämnda platser: Amodei. Omnämnda personer: Jacob Coxon.

Anthropics vd varnar: AI-racet kan gå för snabbt för samhället

Utvecklingen av AI måste bromsas. Det skriver Dario Amodei, vd för branschjätten Anthropic, i ett inlägg på bolagets sajt. Open AI:s chef gav nyligen uttryck för liknande tankegångar. ”Vi måste sakta ner farten med vilken vi förbättrar AI-modellernas förmågor.

Sammanhang: ...Inlägget kommer dagen efter det att Open AI-chefen Sam Altman vid ett internt möte öppnat för att bromsa AI-utvecklingen. AI-forskaren Jacob Coxon, som nyligen hoppat av Anthropic i protest och tidigare även jobbat på konkurrenten Open AI, anser att ingen av de båda AI-jättarna agerar ansvarsfullt. ”De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut”, skrev han nyligen på X....

Omnämnda platser: X., Amodei. Omnämnda personer: Dario Amodei, Sam Altman, Jacob Coxon.

Anthropics vd: AI-utvecklingen bör bromsas

”Vi måste sakta ner farten med vilken vi förbättrar AI-modellernas förmågor. Utvecklingen kommer fortfarande att upplevas som snabb, och vi måste använda tiden vi vinner på ett förnuftigt vis”, heter det i inlägget, enligt CNN. Enligt Amodei har utvecklingen

Sammanhang: ...Inlägget kommer dagen efter det att Open AI-chefen Sam Altman vid ett internt möte öppnat för att bromsa AI-utvecklingen. AI-forskaren Jacob Coxon, som nyligen hoppat av Anthropic i protest och tidigare även jobbat på konkurrenten Open AI, anser att ingen av de båda AI-jättarna agerar ansvarsfullt. ”De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut”, skrev han nyligen på X....

Omnämnda platser: Amodei, X.. Omnämnda personer: Jacob Coxon, Sam Altman.

AI-forskare säger upp sig: ”Kan döda oss alla”

Jacob Coxon publicerade under onsdagen en rad inlägg på X där han förklarar sitt beslut att lämna AI-jätten. Han skriver att han ägnat de tre senaste åren åt AI-forskning för både Anthropic och konkurrenten Open AI. Under den tiden uppger han sig ha förstått

Sammanhang: ...Jacob Coxon publicerade under onsdagen en rad inlägg på X där han förklarar sitt beslut att lämna AI-jätten. ...

Omnämnda personer: Jacob Coxon.

Forskarens varning: AI kan döda oss alla inom tio år

Coxon lämnade sin tjänst vid Anthropic tidigare i veckan, efter att ha tillbringat de senaste tre åren med att träna AI-modeller i forskningssyfte på både Anthropic och konkurrenten OpenAI. På X varnar han nu för en farlig utveckling: ”Inget av bolagen agerar

Sammanhang: ...Det finns dock en aspekt som hon finner oroväckande. – Han (Jacob Coxon) pratar om varför de olika AI-bolagen fortsätter med det här kycklingracet. De verkar alla vilja stoppa det, men ingen gör det. ...

Omnämnda personer: Paulina Modlitba, Jacob Coxon, Evan Hubinger.

"AI-systemen kan förinta mänskligheten"

AI-forskare på Anthropic säger upp sig i protest Jacob Coxon har tidigare jobbat på OpenAI och var fram tills nyss AI-forskare på Anthropic. Nu har han i protest sagt upp sig då han säger att AI-bolagen "spelar med människors

Sammanhang: ...L s vidare och kommentera: https://feber.se/internet/ai-systemen-kan-forinta-manskligheten/495964/ L s mer om AI , Jacob Coxon , protest , övertag , mänsklighet , utplåna , Skynet ...

Omnämnda platser: Skynet. Omnämnda personer: Jacob Coxon, Evan Hubinger.

Skyfallsvarning i Stockholm och Västerås

Alltid senaste nytt – följ SvD direkt Följ SvD:s liverapport med de senaste nyheterna – öppen för alla läsare. Alla nyheterValet 2026Kriget i UkrainaKonflikterna i Mellanöstern Fastnålat inlägg Skyfallsvarning i Stockholm och Västerås 15 min Eva Johannesson

Sammanhang: ...AI-forskaren hoppar av – varnar för risker AI-forskaren hoppar av – varnar för risker Jacob Coxon sände chockvågor genom Silicon Valley när han i veckan berättade på plattformen X att han sagt upp sig från Anthropic. ...

Omnämnda platser: Stockholm, Moldavien, Göteborg. Omnämnda personer: Jonas Gahr Støre, Volodymyr Zelenskyj, Gahr Støre.

AI-forskaren hoppade av i protest: ”Tekniken skulle kunna döda oss alla”

Jacob Coxon, som tidigare även jobbat på konkurrenten Open AI, anser att ingen av de båda AI-jättarna agerar ansvarsfullt. ”De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut", skriver han på X. ”Skulle kunnadöda

Sammanhang: ...Jacob Coxon, som tidigare även jobbat på konkurrenten Open AI, anser att ingen av de båda AI-jättarna agerar ansvarsfullt. ”De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut", skriver han på X. ”Skulle kunna döda alla” Han får medhåll av Evan Hubinger, säkerhetsforskare på Anthropic. ”Vi tror verkligen på fullt allvar att AI skulle kunna döda alla människor”, skriver Hubinger på X. ...

Omnämnda personer: Evan Hubinger, Jacob Coxon.