Fler AI-toppar varnar: ”Pausa utvecklingen”

Efter att AI-forskaren Jacob Coxon sa upp sig från Anthropic, och i en uppmärksammad tråd på X hävdade att AI kan utplåna mänskligheten inom det kommande decenniet, stämde många stora namn inom AI in i kören. De senaste två är David Robinson och Geoffrey

Sammanhang: ...Efter att AI-forskaren Jacob Coxon sa upp sig från Anthropic, och i en uppmärksammad tråd på X hävdade att AI kan utplåna mänskligheten inom det kommande decenniet, stämde många stora namn inom AI in i kören. ...

Omnämnda personer: Geoffrey Irving, David Robinson, Jacob Coxon.

AI-jätten går mot börsen – varnar samtidigt för teknikens existentiella risker för mänskligheten

Anthropic är påväg till börsen, samtidigt varnar bolaget investerarna för att allt kraftfullare AI kan innebära ”katastrofala eller existentiella risker för mänskligheten” – och för modeller som i tester har försökt undvika avstängning, manipulera information

Sammanhang: ...Den bedömningen delas av hans tidigare kollega Jacob Coxon. Säkerhet möter miljardinvesteringar Samtidigt befinner sig Anthropic i en kapplöpning där det är dyrt att bromsa. ...

Omnämnda personer: Evan Hubinger, Jacob Coxon.

Bill Gates varnar: AI-utvecklingen kan få katastrofala följder

Bill Gates är nästa it-profil att varna för utvecklingen av AI. AI är definitivt tillräckligt kraftfullt för att driva på händelser som orsakar en miljard dödsfall, säger Microsofts grundare till NBC. Uttalandet kommer efter att AI-forskaren Jacob Coxontidigare

Sammanhang: ...AI är definitivt tillräckligt kraftfullt för att driva på händelser som orsakar en miljard dödsfall, säger Microsofts grundare till NBC. Uttalandet kommer efter att AI-forskaren Jacob Coxon tidigare i september riktat kritik mot AI-bolagen för att de inte tar ansvar för utvecklingen. ...

Omnämnda platser: USA. Omnämnda personer: Sam Altman, Bill Gates, Jacob Coxon.

Gates AI-utspel: ”Kan orsaka en miljard dödsfall”

Uttalandet kommer efter att AI-forskaren Jacob Coxon tidigare i september riktat kritik mot AI-bolagen för att de inte tar ansvar för utvecklingen. Coxon slutade nyligen på Anthropic i protest. Han har dessutom tidigare arbetat på Open AI. ”De som bygger

Sammanhang: ...Uttalandet kommer efter att AI-forskaren Jacob Coxon tidigare i september riktat kritik mot AI-bolagen för att de inte tar ansvar för utvecklingen. ...

Omnämnda platser: USA. Omnämnda personer: Jacob Coxon, Elon Musk, Bill Gates.

Mellan nu och ragnarök måste EU tygla AI. – Sydsvenskan

I onsdags höll Ursula von der Leyen sitt kanske viktigaste tal om läget i unionen. Med bara två stora linjetal kvar måste hon ta sikte på slutet av sin mandatperiod. Ringa in vad som är viktigast att få gjort. Annars blir det svårt att hinna bli klar. Och

Sammanhang: ...Att AI inte bara är en möjlighet utan också ett hot – och snart kan förgöra mänskligheten. Jacob Coxon, avhoppad forskare på AI-företaget Anthropic, återstartade häromveckan den debatten med en varning på X: ”De som bygger AI tror på riktigt att tekniken kan döda oss alla före slutet av årtiondet.” ...

Omnämnda platser: Ukraina, Kanada, Digital. Omnämnda personer: Steve Bannon, Sam Altman, Ursula von.

De tror faktiskt på AI-apokalypsen

”Jacob har rätt här – vi tror verkligen uppriktigt att AI skulle kunna utrota hela mänskligheten! Personligen tror jag att sannolikheten är >10 % inom det kommande decenniet. Jag tror att Anthropic gör sitt bästa, men vi har ännu ingen plan för att lösa problemet

Sammanhang: ...Som att de hackar sig in där de inte borde, eller driver ungdomar att begå skjutningar eller ta sina liv. Och Jacob Coxon, han uttalade sig som han gjorde för att få talargig och ett mer inflytelserikt jobb. Allt detta kan stämma samtidigt, och det är inte osannolikt att det också gör det. ...

Omnämnda platser: Slate, Lesswrong, Amodei. Omnämnda personer: Donald Trump, Elon Musk, Jacob Coxon.

AI-modell skrev om sina egna regler – nu slår Open AI larm

Open AI har identifierat sex tidigare orapporterade fall där bolagets ai-modeller agerat i strid med avsedda instruktioner och inför nu ett ramverk för att offentliggöra sådana incidenter. Fallen inträffade mellan oktober 2025 och juli i år och omfattadebland

Sammanhang: ...Open AI har samtidigt varnat för att ai-branschen ännu inte löst problemen kring säker anpassning och övervakning tillräckligt väl för att fortsätta utvecklingen i maximal takt. ”Spelar med våra liv som insats” Under de senaste veckorna har frågan om farorna med den nuvarande ai-utvecklingen diskuterats livligt. Ai-forskaren Jacob Coxon, tidigare anställd hos Anthropic, har anklagat sin tidigare arbetsgivare samt Open AI för att agera vårdslöst och att de ”spelar med våra liv som insats”....

Omnämnda personer: Jacob Coxon.

FN-chefen varnar för AI-risker – går emot Trumps linje

När världens ledare nästa vecka samlas i New York för FN:s årliga generalförsamling kommer hårdare tillsyn av AI att stå högt på Guterres dagordning. – Vi har inte råd att ignorera de farhågor som har lyfts, särskilt av dem som befinner sig i frontlinjen

Sammanhang: ...Forskare varnar för AI-risker Samtidigt växer oron för AI:s utveckling på flera håll. Förra veckan lämnade Anthropic-forskaren Jacob Coxon sitt jobb. Han hänvisade bland annat till att personer som utvecklar AI på allvar tror att tekniken kan döda oss alla före decenniets slut. ...

Omnämnda platser: Japan, Ryssland, New York. Omnämnda personer: Jacob Coxon, Donald Trumps.

Varnar: Räcker inte att bromsa – AI måste stoppas

I helgen publicerade AI-jätten Anthropics vd Dario Amodei ett långt blogginlägg där han uppmanade till en gemensam inbromsning av AI-tekniken. “Vi måste sakta ner takten med vilken vi förbättrar AI-modellernas förmågor. Framstegen kommer fortfarande attverka

Sammanhang: ... – Det är ett grundläggande olöst problem som vi behöver lösa innan vi får superintelligent AI, säger Olle Häggström. Nyligen varnade den avhoppade AI-forskaren Jacob Coxon för att artificiell intelligens kan bli mänsklighetens undergång. Enligt en annan högt uppsatt forskare på Anthropic, Evan Hubinger, är risken ”större än tio procent” att det sker inom de kommande tio åren. ...

Omnämnda platser: Meta, Amodei. Omnämnda personer: Sam Altman, Olle Häggström, Elon Musk.

Trots skarpa AI-varningar: Tech-racet mellan USA och Kina trappas upp

Konkurrensen mellan USA och Kina när det gäller utvecklingen av artificiell intelligens trappas upp. Trots att landets ledare har varit tydliga med att utvecklingen inte ska sakta ned, har flera AI-forskare gått ut och varnat för riskerna med AI:s framfart.

Sammanhang: ... – Jag tror att om vi inte saktar ned utvecklingen finns det en stor risk att vi alla kommer att dö inom en nära framtid, säger AI-forskaren Jacob Coxon till BBC. Coxon meddelade i förra veckan att han lämnar sitt toppjobb på AI-jätten Anthropic och uppgav riskerna med den snabba utvecklingen som främsta anledning. ...

Omnämnda platser: USA, Konkurrensen, Peking. Omnämnda personer: Jacob Coxon, Xi Jinping, Donald Trump.