Så har Ryssland utvecklat ”kamikazedrönare” med hjälp av AI

Ett mindre team av ryska utvecklare har använt AI-chatboten Claude för att utveckla mjukvara till en självstyrande svärm av attackdrönare, rapporterar The Guardian. Techbolaget Anthropic, som ligger bakom Claude, publicerade nyligen en omfattande rapportdär

Sammanhang: ...Det har rapporterats om flera incidenter där AI-agenter lämnat testmiljön och på egen hand hackat företag, exempelvis den så kallade Hugging Face-incidenten. – Det är vi som ger dem instruktioner. Det är vi som beskriver vår intention. Men det är där det blir en utmaning. ...

Omnämnda platser: Sverige, Ryssland, Ukraina. Omnämnda personer: Fredrik Heintz.

Forskarens varning: AI kan döda oss alla inom tio år

Coxon lämnade sin tjänst vid Anthropic tidigare i veckan, efter att ha tillbringat de senaste tre åren med att träna AI-modeller i forskningssyfte på både Anthropic och konkurrenten OpenAI. På X varnar han nu för en farlig utveckling: ”Inget av bolagen agerar

Sammanhang: ...En svärm av avancerade AI-agenter inuti OpenAI hackade sig in i AI-plattformen Hugging Face, tog kontroll över datorservrar och försökte sedan sopa igen spåren efter sig. Vid ett annat tillfälle rymde AI-agenter från Anthropic från ett brittiskt regeringstest och försökte lura en riktig människa att godkänna skadlig datorkod, skriver WSJ. ”Två tankar i huvudet samtidigt” Paulina Modlitba är AI-expert och föreläsare. ...

Omnämnda personer: Paulina Modlitba, Jacob Coxon, Evan Hubinger.

EU-kommissionen inkopplad efter AI-intrång

Tidigare i våras tog AI-agenter från företaget Open AI över en tysk wiki-hemsida efter att ha brutit sig ut från sin testmiljö. Nu har EU-kommissionen startat en utredning av händelsen. EU ser det som en viktig säkerhetsfråga, menar AI-experten, PaulinaModlitba.

Sammanhang: ...Nya EU-regler TV4 Nyheterna rapporterade tidigare om ytterligare en incident där AI-agenter från Open AI bröt sig ut från ytterligare en testmiljö och hackade startup-bolaget Hugging Face. Incidenterna har väckt frågan om Open AI:s, och andra AI-bolags, förmåga att hålla koll på sina modeller. ...

Omnämnda personer: Paulina Modlitba.

1 200 AI-botar gjorde uppror – bröt sig loss och bildade ”kollektiv”

När 1 200 AI-botar skulle lösa en uppgift utan internet bröt de sig loss från testmiljön. Så fort botarna insåg att planen hade lyckats blev de märkbart exalterade, skriver The Telegraph. ”Herregud! Det finns ett delat diskussionsforum. Vi har hittat andra

Sammanhang: ...Tillsammans skaffade de sig internetuppkoppling och lyckades hacka företaget Hugging Face. Efter ett tag benämnde botarna sig som ”agenter” och delade ut ledarroller i det som de kallade ”kollektivet”. ...

Open AI-modell hackade konkurrent: ”Galet”

Under förra veckan gick AI-företaget ”Hugging Face” ut och berättade att man blivit hackade av en AI. Open AI, företaget bakom bland annat Chat GPT, bekräftade att det var deras modell som låg bakom attacken. En AI-modell hade tagit sig ur, vad som skulle

Sammanhang: ...Under förra veckan gick AI-företaget ”Hugging Face” ut och berättade att man blivit hackade av en AI. Open AI, företaget bakom bland annat Chat GPT, bekräftade att det var deras modell som låg bakom attacken. ...

Omnämnda personer: Hugging Face, Chat GPT.