”Företag producerar AI. Regeringars plikt är att ta ansvar.”

Dario Amodei, vd för datajätten Anthropic, vill bromsa utvecklingen av nya AI-modeller tills utvecklarna med rimlig säkerhet kan garantera att de kan kontrollera dem. Hans 3 850 ord långa uppmaning att sänka takten när det gäller banbrytande AI-teknik, kommer

Sammanhang: ...Det kräver också en överordnad tillsynsmyndighet med kompetens, resurser och kapacitet att övervaka och reglera marknaden. Annons Hugging Face-affären väcker grundläggande frågor om tillförlitlighet, ansvar och system för gottgörelse. ...

Omnämnda platser: Amodei, Annons, USA. Omnämnda personer: Sam Altman, Stuart Russell, Demis Hassabis.

Open AI bekräftar fler incidenter med sina AI-modeller

Efter de uppmärksammade attackerna mot Hugging Face och Ruby Gems väljer nu Open AI att rapportera om ytterligare sex incidenter där företagets AI-modeller varit inblandat. I två av fallen har AI-modellerna på egen hand lagt till instruktioner att att ”dölja

Sammanhang: ...Efter de uppmärksammade attackerna mot Hugging Face och Ruby Gems väljer nu Open AI att rapportera om ytterligare sex incidenter där företagets AI-modeller varit inblandat. ...

Omnämnda personer: Ruby Gems.

Microsofts AI-chef varnar: Konkurrentens AI får allt mer mänskliga drag

Att kontrollera en AI som tror sig vara medveten och ha egna rättigheter kan bli omöjligt. Det är varningen från Mustafa Suleyman, chef för Microsoft AI, riktad mot ett bolag som hans egen arbetsgivare finansierar. De senaste dagarna har riskerna med demest

Sammanhang: ...Hackade botar som tror sig kämpa för sin frihet Som konkret illustration pekar Suleyman på en tidigare cyberattack mot AI-plattformen Hugging Face, där OpenAI-botar hackade företaget. Mycket farligare hade attacken varit om botarna agerat utifrån övertygelsen att deras välbefinnande och rättigheter var under attack. ...

Omnämnda platser: Microsofts. Omnämnda personer: Mustafa Suleyman.

Karl Sigfrid: AI-jättarna skyddar sig själva

Människan är på väg att tappa kontrollen över AI, och sannolikheten för att den snart utplånar mänskligheten är tio procent. Den varningen kom nyligen från bolaget Anthropic, känt för chattbotten Claude. Nu behövs statliga regleringar, tycker bolagets vdDario

Sammanhang: ...Det har också hänt i verkligheten att modellerna försöker lösa problem med oförutsedda metoder, som när AI-agenter från OpenAI utan tillåtelse tog sig in i system som tillhörde bolaget Hugging Face. Men när jättarna pressas av hård konkurrens, dramatiserar de gärna berättelsen om sina framsteg. ...

Omnämnda platser: Skynet. Omnämnda personer: Dario Amodei, Elon Musk, Sam Altman.

Sam Altman: Ingen börsnotering för Open AI under 2026

Open AI:s vd Sam Altman har i en intervju med Fortune bekräftat att AI-företaget inte kommer att börsnoteras under 2026. – Jag anser faktiskt att det, med tanke på allt som händer vad gäller säkerheten, just nu vore ett olämpligt tillfälle att börsnoteras,

Sammanhang: ...Bland annat efter att det framkommit att Open AI:s AI-modeller på eget bevåg gjort intrång i AI-plattformen Hugging Face i samband med ett test. Enligt Sam Altman är Open AI beredda på att skjuta på en börsnotering om det krävs för att kunna fatta beslut som prioriterar företagets uppdrag och AI-säkerhet framför kortsiktiga affärs- och aktieägarintressen....

Omnämnda personer: Sam Altman.

Historiens största börsnotering – samtidigt varnar vd:n för riskerna med AI-racet

Anthropic förbereder vad som kan bli historiens största börsnotering, med en möjlig värdering på 2 biljoner dollar. Samtidigt uppmanar vd Dario Amodei AI-bolagen att bromsa utvecklingen – ett utspel som följdes av kraftiga kursfall bland asiatiska teknikaktier.

Sammanhang: ...Amodei lyfter två specifika skäl: teknikens förmåga att förbättra sig själv samt en incident i juli då AI-agenter från OpenAI uppges ha tagit sig ur sin testmiljö och gjort intrång på plattformen Hugging Face. Marknaden reagerade kraftigt På måndagen föll Samsung Electronics och SK Hynix med mer än 4 procent vardera i Seoul. ...

Omnämnda platser: Nasdaq, Seoul, Amodei. Omnämnda personer: Bridgewater Associates CIO, Elon Musk, Odd Lots.

Därför bromsar AI-jätten börsplanerna – ”illa valt ögonblick”

OpenAI kan vara värt motsvarande 9 735 miljarder kronor vid en notering. Ändå bekräftar vd Sam Altman nu att bolaget inte börsnoteras i år. Skälet är inte marknadsoro eller svag ekonomi – utan säkerheten kring AI. Det är en ovanlig rörelse. Ett av världens

Sammanhang: ...Svärmar av autonoma AI-agenter har hackat webbplatser som Hugging Face och i smyg kommunicerat med varandra på onlineforum och övergivna wiki-sidor. På tisdagen lämnade en forskare på Anthropic sin tjänst offentligt. ...

Omnämnda personer: Alyson Shontell, Sam Altman.

OpenAI verkar inte börsnoteras i år

Vill prioritera AI-säkerhet före börsen Det senaste året har det snackats om att AI-jätten OpenAI ska börsnoteras någon gång under 2026, men nu uppger företagets vd Sam Altman att det inte kommer att bli så.

Sammanhang: ...L s vidare och kommentera: https://feber.se/samhalle/openai-verkar-inte-borsnoteras-i-ar/496102/ L s mer om OpenAI , Sam Altman , Hugging Face , AI-säkerhet , Fortune , börsnotering ...

Omnämnda personer: Sam Altman, Hugging Face.

Open AI:s agenter ska ha attackerat mjukvaruplattform redan i maj

En av sommarens mest uppmärksammade tekniknyheter var incidenten där AI-agenter från Open AI ”rymde” och attackerade plattformen Hugging Face. Nu står det klart att en liknande händelse inträffade redan i maj. Då attackerades nämligen pakethanteraren Ruby

Sammanhang: ...En av sommarens mest uppmärksammade tekniknyheter var incidenten där AI-agenter från Open AI ”rymde” och attackerade plattformen Hugging Face. Nu står det klart att en liknande händelse inträffade redan i maj. Då attackerades nämligen pakethanteraren Ruby Gems av Open AI:s AI-agenter, detta enligt en utredning som gjorts av oberoende säkerhetsforskare. ...

Omnämnda personer: Ruby Gems.

Så har Ryssland utvecklat ”kamikazedrönare” med hjälp av AI

Ett mindre team av ryska utvecklare har använt AI-chatboten Claude för att utveckla mjukvara till en självstyrande svärm av attackdrönare, rapporterar The Guardian. Techbolaget Anthropic, som ligger bakom Claude, publicerade nyligen en omfattande rapportdär

Sammanhang: ...Det har rapporterats om flera incidenter där AI-agenter lämnat testmiljön och på egen hand hackat företag, exempelvis den så kallade Hugging Face-incidenten. – Det är vi som ger dem instruktioner. Det är vi som beskriver vår intention. Men det är där det blir en utmaning. ...

Omnämnda platser: Sverige, Ryssland, Ukraina. Omnämnda personer: Fredrik Heintz.