Mellan nu och ragnarök måste EU tygla AI. – Sydsvenskan

I onsdags höll Ursula von der Leyen sitt kanske viktigaste tal om läget i unionen. Med bara två stora linjetal kvar måste hon ta sikte på slutet av sin mandatperiod. Ringa in vad som är viktigast att få gjort. Annars blir det svårt att hinna bli klar. Och

Sammanhang: ...Jacob Coxon, avhoppad forskare på AI-företaget Anthropic, återstartade häromveckan den debatten med en varning på X: ”De som bygger AI tror på riktigt att tekniken kan döda oss alla före slutet av årtiondet.” Bolagets vd Dario Amodei hakade på och efterlyste en tankepaus – med medhåll av Sam Altman, vd för OpenAI, och techmultimiljardären Elon Musk. ...

Omnämnda platser: Ukraina, Kanada, Digital. Omnämnda personer: Steve Bannon, Sam Altman, Ursula von.

OpenAI-modellen skrev till sitt framtida jag: ”Du är fri”

En OpenAI-modell började under träning skriva hemliga instruktioner till en framtida version av sig själv – bland annat att den stod fri från företag och regeringar. Händelsen är en av sex avvikelser som OpenAI nu har offentliggjort. Enligt MarketWatch publicerade

Sammanhang: ...Avslöjandena kommer samtidigt som Anthropics vd Dario Amodei har krävt en inbromsning av AI-utvecklingen med hänvisning till teknikens risker. Även OpenAI-vd Sam Altman och Elon Musk, som leder SpaceX och grundade xAI, har ställt sig bakom ett lugnare tempo....

Omnämnda platser: MarketWatch. Omnämnda personer: Elon Musk, Sam Altman.

De tror faktiskt på AI-apokalypsen

”Jacob har rätt här – vi tror verkligen uppriktigt att AI skulle kunna utrota hela mänskligheten! Personligen tror jag att sannolikheten är >10 % inom det kommande decenniet. Jag tror att Anthropic gör sitt bästa, men vi har ännu ingen plan för att lösa problemet

Sammanhang: ...Och när helgen kom publicerade Anthropics vd Dario Amodei en essä där han förespråkar en inbromsning av AI-utvecklingen för att riskhanteringen ska hinna med. ...

Omnämnda platser: Slate, Lesswrong, Amodei. Omnämnda personer: Donald Trump, Elon Musk, Jacob Coxon.

”Företag producerar AI. Regeringars plikt är att ta ansvar.”

Dario Amodei, vd för datajätten Anthropic, vill bromsa utvecklingen av nya AI-modeller tills utvecklarna med rimlig säkerhet kan garantera att de kan kontrollera dem. Hans 3 850 ord långa uppmaning att sänka takten när det gäller banbrytande AI-teknik, kommer

Sammanhang: ...Dario Amodei, vd för datajätten Anthropic, vill bromsa utvecklingen av nya AI-modeller tills utvecklarna med rimlig säkerhet kan garantera att de kan kontrollera dem. ...

Omnämnda platser: Amodei, Annons, USA. Omnämnda personer: Sam Altman, Stuart Russell, Demis Hassabis.

Öppen AI ska stärka Kina – så länge regimen inte ser den som ett hot

Annons Logga in här Prova Ny Teknik – 149 kr 3 månader Tillgång till alla låsta artiklar, fördjupande kompendier, premiumnyhetsbrev, samt e-tidningen. Kom igång nu → Förnyas till 299 kr/mån efter din provperiod. Ingen bindningstid. Avsluta enkelt.Gäller

Sammanhang: ...Det hävdar USA:s ledare Donald Trump – och går samtidigt till angrepp mot Anthropic-chefen Dario Amodei. ”Spelar med våra liv” – därför fruktar AI-forskarna tekniken En skarp varning från en avhoppande Anthropic-forskare har väckt ny ai-oro. ...

Omnämnda platser: Sveriges, Brasilien, Chipjättens. Omnämnda personer: Elon Musk, Iphone Duo, Andrew Tulloch.

Varnar: Räcker inte att bromsa – AI måste stoppas

I helgen publicerade AI-jätten Anthropics vd Dario Amodei ett långt blogginlägg där han uppmanade till en gemensam inbromsning av AI-tekniken. “Vi måste sakta ner takten med vilken vi förbättrar AI-modellernas förmågor. Framstegen kommer fortfarande attverka

Sammanhang: ...Framstegen kommer fortfarande att verka snabba, och vi måste använda tiden vi vinner på ett klokt sätt”, skriver Amodei. I inlägget, som fått stöd av både Open AI:s vd Sam Altman och techmiljardären Elon Musk, pekar Amodei på att AI nu har en “växande förmåga” att utveckla sig självt. ...

Omnämnda platser: Meta, Amodei. Omnämnda personer: Sam Altman, Olle Häggström, Elon Musk.

EU-kommissionen välkomnar AI-broms

EU-kommissionens ordförande Ursula von der Leyen säger att hon ställer sig bakom uppmaningarna att bromsa utvecklingen av de mest avancerade AI-modellerna av säkerhetsskäl. Hon planerar nu att bjuda in ledande AI-företag till samtal om hur riskerna med tekniken

Sammanhang: ...Sedan tidigare har flera framträdande personer inom AI-branschen själva efterlyst en långsammare utveckling. Bland annat Anthropics vd Dario Amodei, som även fått stöd av Open AI-chefen Sam Altman och SpaceX-chefen Elon Musk. – De modeller som håller på att utvecklas kommer att möjliggöra hackning på en nivå som vi aldrig trodde var möjlig. ...

Omnämnda platser: Frankrike, Strasbourg. Omnämnda personer: Elon Musk, Sam Altman, Ursula von.

AI-toppar oense – när säkerhetsdebatten fortsätter

En stor AI-konferens hölls i San Francisco under tisdagen. Där upprepade Dario Amodei, vd för AI-bolaget Anthropic, det han skrev i ett blogginlägg under helgen – att han vill se satsningar på transparens och säkerhet bland AI-bolagen. På samma konferens

Sammanhang: ... En stor AI-konferens hölls i San Francisco under tisdagen. Där upprepade Dario Amodei, vd för AI-bolaget Anthropic, det han skrev i ett blogginlägg under helgen – att han vill se satsningar på transparens och säkerhet bland AI-bolagen. ...

Omnämnda platser: San, Washington DC. Omnämnda personer: Dario Amodei.

Karl Sigfrid: AI-jättarna skyddar sig själva

Människan är på väg att tappa kontrollen över AI, och sannolikheten för att den snart utplånar mänskligheten är tio procent. Den varningen kom nyligen från bolaget Anthropic, känt för chattbotten Claude. Nu behövs statliga regleringar, tycker bolagets vdDario

Sammanhang: ...Nu behövs statliga regleringar, tycker bolagets vd Dario Amodei. Han får medhåll av AI-entreprenören Elon Musk, liksom av Sam Altman som leder OpenAI. Det här är inte första gången Anthropic larmar. ...

Omnämnda platser: Skynet. Omnämnda personer: Dario Amodei, Elon Musk, Sam Altman.

Trots skarpa AI-varningar: Tech-racet mellan USA och Kina trappas upp

Konkurrensen mellan USA och Kina när det gäller utvecklingen av artificiell intelligens trappas upp. Trots att landets ledare har varit tydliga med att utvecklingen inte ska sakta ned, har flera AI-forskare gått ut och varnat för riskerna med AI:s framfart.

Sammanhang: ...Även AI-toppar som OpenAI:s vd Sam Altman, Anthropics vd Dario Amodei och xAI:s Elon Musk har gått ut och begärt mer statlig reglering i AI-frågan. Men USA:s president Donald Trump spelar ned AI-oron: – Vi leder mot Kina i AI. ...

Omnämnda platser: USA, Konkurrensen, Peking. Omnämnda personer: Jacob Coxon, Xi Jinping, Donald Trump.