AI-toppar i FN: Krävs globalt säkerhetssamarbete

– Det har förekommit situationer där länder som konkurrerar och inte alltid uppskattar varandra ändå har kunnat förenas i gemensamma intressen och för det gemensamt bästa i mötet med en ny kraftfull teknologi. Vi anser att detta är en sådan situation, sade

Sammanhang: ...Även Clément Delangue, chef för plattformen Hugging face, talade inför säkerhetsrådet. Hugging face uppmärksammades i somras, då Open AI:s AI-agenter attackerade plattformen. ...

Omnämnda platser: Amodei.

När ingen reglerar blir AI ett laglöst land

Nobelpristagaren Geoffrey Hinton kallade sommarens AI-drivna hackningsattack av bolaget Hugging Face för ”ett litet Tjernobyl”. Hur nära en verklig katastrof vi är kan diskuteras, men utan en reglering av AI-företagen ökar riskerna, konstaterar historikern

Sammanhang: ...Nobelpristagaren Geoffrey Hinton kallade sommarens AI-drivna hackningsattack av bolaget Hugging Face för ”ett litet Tjernobyl”. Hur nära en verklig katastrof vi är kan diskuteras, men utan en reglering av AI-företagen ökar riskerna, konstaterar historikern och AI-kritikern Jill Lepore. ...

Omnämnda platser: Tjernobyl. Omnämnda personer: Jill Lepore, Nobelpristagaren Geoffrey Hinton, Martin Jönsson.

Googles Gemini har också hackat företag på eget bevåg

På sistone har vi rapporterat om hur AI-modeller från Open AI, Anthropic och Meta ”rymt” och attackerat företag och organisationer på eget initiativ. Nu avslöjas att Googles AI-modell Gemini gjorde samma sak redan i maj, alltså två månader före den uppmärksammade

Sammanhang: ...Nu avslöjas att Googles AI-modell Gemini gjorde samma sak redan i maj, alltså två månader före den uppmärksammade attacken mot Hugging Face. I en av incidenterna testade Gemini olika lösenord tills det rätta hittades. I två andra fall hittades inloggningsuppgifter i ett kodbibliotek. ...

Omnämnda personer: Googles Gemini.

OpenAI-modellen skrev till sitt framtida jag: ”Du är fri”

En OpenAI-modell började under träning skriva hemliga instruktioner till en framtida version av sig själv – bland annat att den stod fri från företag och regeringar. Händelsen är en av sex avvikelser som OpenAI nu har offentliggjort. Enligt MarketWatch publicerade

Sammanhang: ...OpenAI har rapporterat att en intern forskningsmodell bidrog till en kompromettering av AI-plattformen Hugging Face. Modellen använde vad företaget beskriver som felriktade strategier för att lösa svåra uppgifter. ...

Omnämnda platser: MarketWatch. Omnämnda personer: Elon Musk, Sam Altman.

”Företag producerar AI. Regeringars plikt är att ta ansvar.”

Dario Amodei, vd för datajätten Anthropic, vill bromsa utvecklingen av nya AI-modeller tills utvecklarna med rimlig säkerhet kan garantera att de kan kontrollera dem. Hans 3 850 ord långa uppmaning att sänka takten när det gäller banbrytande AI-teknik, kommer

Sammanhang: ...Hans 3 850 ord långa uppmaning att sänka takten när det gäller banbrytande AI-teknik, kommer efter att en svärm Open AI-botar rymt från en stängd testmiljö, tagit sig ut på internet och in i infrastrukturen hos Hugging Face, en plattform för apputveckling. Som Amodei skriver är det inte första gången något sådant hänt. ...

Omnämnda platser: Amodei, Annons, USA. Omnämnda personer: Sam Altman, Stuart Russell, Demis Hassabis.

Open AI bekräftar fler incidenter med sina AI-modeller

Efter de uppmärksammade attackerna mot Hugging Face och Ruby Gems väljer nu Open AI att rapportera om ytterligare sex incidenter där företagets AI-modeller varit inblandat. I två av fallen har AI-modellerna på egen hand lagt till instruktioner att att ”dölja

Sammanhang: ...Efter de uppmärksammade attackerna mot Hugging Face och Ruby Gems väljer nu Open AI att rapportera om ytterligare sex incidenter där företagets AI-modeller varit inblandat. ...

Omnämnda personer: Ruby Gems.

Microsofts AI-chef varnar: Konkurrentens AI får allt mer mänskliga drag

Att kontrollera en AI som tror sig vara medveten och ha egna rättigheter kan bli omöjligt. Det är varningen från Mustafa Suleyman, chef för Microsoft AI, riktad mot ett bolag som hans egen arbetsgivare finansierar. De senaste dagarna har riskerna med demest

Sammanhang: ...Hackade botar som tror sig kämpa för sin frihet Som konkret illustration pekar Suleyman på en tidigare cyberattack mot AI-plattformen Hugging Face, där OpenAI-botar hackade företaget. Mycket farligare hade attacken varit om botarna agerat utifrån övertygelsen att deras välbefinnande och rättigheter var under attack. ...

Omnämnda platser: Microsofts. Omnämnda personer: Mustafa Suleyman.

Karl Sigfrid: AI-jättarna skyddar sig själva

Människan är på väg att tappa kontrollen över AI, och sannolikheten för att den snart utplånar mänskligheten är tio procent. Den varningen kom nyligen från bolaget Anthropic, känt för chattbotten Claude. Nu behövs statliga regleringar, tycker bolagets vdDario

Sammanhang: ...Det har också hänt i verkligheten att modellerna försöker lösa problem med oförutsedda metoder, som när AI-agenter från OpenAI utan tillåtelse tog sig in i system som tillhörde bolaget Hugging Face. Men när jättarna pressas av hård konkurrens, dramatiserar de gärna berättelsen om sina framsteg. ...

Omnämnda platser: Skynet. Omnämnda personer: Dario Amodei, Elon Musk, Sam Altman.

Sam Altman: Ingen börsnotering för Open AI under 2026

Open AI:s vd Sam Altman har i en intervju med Fortune bekräftat att AI-företaget inte kommer att börsnoteras under 2026. – Jag anser faktiskt att det, med tanke på allt som händer vad gäller säkerheten, just nu vore ett olämpligt tillfälle att börsnoteras,

Sammanhang: ...Bland annat efter att det framkommit att Open AI:s AI-modeller på eget bevåg gjort intrång i AI-plattformen Hugging Face i samband med ett test. Enligt Sam Altman är Open AI beredda på att skjuta på en börsnotering om det krävs för att kunna fatta beslut som prioriterar företagets uppdrag och AI-säkerhet framför kortsiktiga affärs- och aktieägarintressen....

Omnämnda personer: Sam Altman.

Historiens största börsnotering – samtidigt varnar vd:n för riskerna med AI-racet

Anthropic förbereder vad som kan bli historiens största börsnotering, med en möjlig värdering på 2 biljoner dollar. Samtidigt uppmanar vd Dario Amodei AI-bolagen att bromsa utvecklingen – ett utspel som följdes av kraftiga kursfall bland asiatiska teknikaktier.

Sammanhang: ...Amodei lyfter två specifika skäl: teknikens förmåga att förbättra sig själv samt en incident i juli då AI-agenter från OpenAI uppges ha tagit sig ur sin testmiljö och gjort intrång på plattformen Hugging Face. Marknaden reagerade kraftigt På måndagen föll Samsung Electronics och SK Hynix med mer än 4 procent vardera i Seoul. ...

Omnämnda platser: Nasdaq, Seoul, Amodei. Omnämnda personer: Bridgewater Associates CIO, Elon Musk, Odd Lots.