OpenAI-modellen skrev till sitt framtida jag: ”Du är fri”

En OpenAI-modell började under träning skriva hemliga instruktioner till en framtida version av sig själv – bland annat att den stod fri från företag och regeringar. Händelsen är en av sex avvikelser som OpenAI nu har offentliggjort. Enligt MarketWatch publicerade

Sammanhang: ...Avslöjandena kommer samtidigt som Anthropics vd Dario Amodei har krävt en inbromsning av AI-utvecklingen med hänvisning till teknikens risker. Även OpenAI-vd Sam Altman och Elon Musk, som leder SpaceX och grundade xAI, har ställt sig bakom ett lugnare tempo....

Omnämnda platser: MarketWatch. Omnämnda personer: Elon Musk, Sam Altman.

De tror faktiskt på AI-apokalypsen

”Jacob har rätt här – vi tror verkligen uppriktigt att AI skulle kunna utrota hela mänskligheten! Personligen tror jag att sannolikheten är >10 % inom det kommande decenniet. Jag tror att Anthropic gör sitt bästa, men vi har ännu ingen plan för att lösa problemet

Sammanhang: ...Bland annat vill han se oberoende utvärderingar, nya regleringar och global koordination på regeringsnivå. Amodei fick snart medhåll av både Open AI:s Sam Altman och Elon Musk – vilket i sig är anmärkningsvärt eftersom samtliga inblandade inte direkt gillar varandra – och plötsligt var frågan om det som kallas ”AI safety” högst på den globala agendan där såväl Donald Trump som EU-kommissionen uttalat sig. ...

Omnämnda platser: Slate, Lesswrong, Amodei. Omnämnda personer: Donald Trump, Elon Musk, Jacob Coxon.

”Företag producerar AI. Regeringars plikt är att ta ansvar.”

Dario Amodei, vd för datajätten Anthropic, vill bromsa utvecklingen av nya AI-modeller tills utvecklarna med rimlig säkerhet kan garantera att de kan kontrollera dem. Hans 3 850 ord långa uppmaning att sänka takten när det gäller banbrytande AI-teknik, kommer

Sammanhang: ...Annons Annons Det är heller inte första gången en AI-ledare velat pausa teknikutvecklingen. 2023, efter lanseringen av generativ AI, krävde hundratals människor ett stopp, bland dem Elon Musk som äger X. Även Sam Altman, vd för Open AI, har senare ställt sig bakom Amodeis uppmaning om paus. Men kapplöpningen har fortsatt, driven av den hårda konkurrensen mellan stora teknikföretag vars investerare vill få fram superintelligens för att få avkastning på de enorma summor pengar varje AI-träning slukar – och också på grund av Kinas framsteg inom AI. ...

Omnämnda platser: Amodei, Annons, USA. Omnämnda personer: Sam Altman, Stuart Russell, Demis Hassabis.

Går det att bromsa AI-utvecklingen?

Forskaren Jacob Coxons budskap var i korthet att Open AI och Anthropic utvecklar systemen snabbare än de löser säkerhetsproblemen. Sophia Sinclair försöker reda ut de olika turerna. Henning Eklund avslöjar att han börjar bli lite orolig. Björn Jefferys konstanta

Omnämnda personer: Björn Jefferys, Jacob Coxons, Sophia Sinclair.

Varnar: Räcker inte att bromsa – AI måste stoppas

I helgen publicerade AI-jätten Anthropics vd Dario Amodei ett långt blogginlägg där han uppmanade till en gemensam inbromsning av AI-tekniken. “Vi måste sakta ner takten med vilken vi förbättrar AI-modellernas förmågor. Framstegen kommer fortfarande attverka

Sammanhang: ...I inlägget, som fått stöd av både Open AI:s vd Sam Altman och techmiljardären Elon Musk, pekar Amodei på att AI nu har en “växande förmåga” att utveckla sig självt. ...

Omnämnda platser: Meta, Amodei. Omnämnda personer: Sam Altman, Olle Häggström, Elon Musk.

EU-kommissionen välkomnar AI-broms

EU-kommissionens ordförande Ursula von der Leyen säger att hon ställer sig bakom uppmaningarna att bromsa utvecklingen av de mest avancerade AI-modellerna av säkerhetsskäl. Hon planerar nu att bjuda in ledande AI-företag till samtal om hur riskerna med tekniken

Sammanhang: ...Bland annat Anthropics vd Dario Amodei, som även fått stöd av Open AI-chefen Sam Altman och SpaceX-chefen Elon Musk. – De modeller som håller på att utvecklas kommer att möjliggöra hackning på en nivå som vi aldrig trodde var möjlig. ...

Omnämnda platser: Frankrike, Strasbourg. Omnämnda personer: Elon Musk, Sam Altman, Ursula von.

Zuckerberg och Huang går emot AI-topparna: Vill inte bromsa utvecklingen

Enligt Zuckerberg ligger det i allas intresse att se till att säkerheten fungerar hos de AI-modeller som utvecklas, men att utvecklingen inte behöver bromsas genom branschöverskridande regelverk. ”Vi väntade i flera månader med att lansera Muse (Metas AI-tjänst)

Sammanhang: ...Annons Uttalandena kommer efter det att Open AI:s och Anthropics chefer, Sam Altman respektive Dario Asmodei, liksom entreprenören och miljardären Elon Musk alla varnat för att AI nu håller på att utvecklas i en fart som medför potentiella risker för mänskligheten....

Omnämnda platser: Metas, X.. Omnämnda personer: Dario Asmodei, Sam Altman.

Topparna går emot konkurrenterna om AI

Enligt Zuckerberg ligger det i allas intresse att se till att säkerheten fungerar hos de AI-modeller som utvecklas, men att utvecklingen inte behöver bromsas genom branschöverskridande regelverk. ”Vi väntade i flera månader med att lansera Muse (Metas AI-tjänst)

Sammanhang: ...Uttalandena kommer efter det att Open AI:s och Anthropics chefer, Sam Altman respektive Dario Asmodei, liksom entreprenören och miljardären Elon Musk alla varnat för att AI nu håller på att utvecklas i en fart som medför potentiella risker för mänskligheten....

Omnämnda platser: Metas, X.. Omnämnda personer: Sam Altman, Dario Asmodei.

Karl Sigfrid: AI-jättarna skyddar sig själva

Människan är på väg att tappa kontrollen över AI, och sannolikheten för att den snart utplånar mänskligheten är tio procent. Den varningen kom nyligen från bolaget Anthropic, känt för chattbotten Claude. Nu behövs statliga regleringar, tycker bolagets vdDario

Sammanhang: ...Han får medhåll av AI-entreprenören Elon Musk, liksom av Sam Altman som leder OpenAI. Det här är inte första gången Anthropic larmar. I somras sa de att utvecklingen måste pausas för att samhälle och forskning ska hänga med. ...

Omnämnda platser: Skynet. Omnämnda personer: Dario Amodei, Elon Musk, Sam Altman.

Zuckerberg och Huang säger nej till att sakta ned AI – går emot branschen

Mark Zuckerberg och Jensen Huang, vd för Meta respektive Nvidia, tycker inte att AI-utvecklingen ska bromsas. De går därmed emot sina konkurrenter i frågan. Enligt Zuckerberg ligger det i allas intresse att se till att säkerheten fungerar hos de AI-modeller

Sammanhang: ...Uttalandena kommer efter det att Open AI:s och Anthropics chefer, Sam Altman respektive Dario Asmodei, liksom entreprenören och miljardären Elon Musk alla varnat för att AI nu håller på att utvecklas i en fart som medför potentiella risker för mänsligheten....

Omnämnda platser: Metas, X.. Omnämnda personer: Mark Zuckerberg, Dario Asmodei, Sam Altman.