AI-agent ska ha försökt hacka myndighetssajt

Bland annat ska de ha publicerat bilder från användare av Open AI:s chattbott Chat GPT på externa sajter. Merparten av bilderna har raderats och arbete för att ta bort kvarvarande bilder pågår, enligt ett uttalande från bolaget på fredagen. Open AI bekräftar

Sammanhang: ...I juli berättade Open AI att två av deras mest avancerade modeller låg bakom ett cyberangrepp mot plattformen Hugging Face. ”Det är fortsatt den mest allvarliga incident som vi har sett”, skriver Altman....

Omnämnda platser: The New York, USA. Omnämnda personer: Sam Altman.

USA eller Kina? Öppna AI-modeller ställer valet på sin spets

Trenden är tydlig: öppna AI-modeller vinner mark när företag, organisationer och utvecklare vill bygga AI-lösningar som är mer kostnadseffektiva, som man själv har kontroll över och som minskar beroendet av de stora amerikanska AI-labben. Och öppna modeller

Sammanhang: ...Framför allt Nvidia lär satsa ännu mer framöver, det vittnar inte minst köpet av Hugging Face. Europa då? Här är det i dag ganska uppgivet. Det europeiska AI-hoppet Mistral släppte sin senaste toppmodell i april – en evighet sedan i AI-mått – och verkar nu mer rikta in sig på tillämpningar. ...

Omnämnda platser: Himmelska fridens torg, USA, Kina. Omnämnda personer: Max Junestrand, Marcus Jerrängs, Christian Landgren.

AI-agent från OpenAI hackade australiensisk hälsodatabas

Första kända attacken av en AI-agent mot en myndighet Australiens premiärminister Anthony Albanese uppger att en AI-agent från OpenAI hackade hälsodatabasen Medicare tidigare i år. Det här ser med andra ord ut att vara ytterligare

Sammanhang: ...Det här ser med andra ord ut att vara ytterligare ett tillfälle då AI-agenter gjort eller försökt göra intrång i system på egen hand, något som uppmärksammades när OpenAI i juli uppgav att en av deras AI-agenter hackat AI-plattformen Hugging Face. Sedan händelsen med Hugging Face har flera andra AI-företag uppgett att deras AI-agenter genomfört eller försökt genomföra attacker mot olika system. ...

Omnämnda platser: South Wales, Australia. Omnämnda personer: Sam Altman, Anthony Albanese, of Crime Statistics.

AI-agent från Open AI hackade sjukvårdsportal

Nu står det klart att en AI-agent från Open AI på eget bevåg hackade den australiska sjukvårdsportalen Medicare den 18 juni. I samband med attacken lyckades AI-agenten få tillgång till ett stort antal filer, men exakt vilka filer det rör sig om är föremål

Sammanhang: ...Sedan maj har AI-agenter från Open AI varit inblandade i en lång rad liknande incidenter, varav attacken mot Hugging Face är den mest uppmärksammade....

Omnämnda personer: Hugging Face, Sam Altman.

Ledande AI-chefer uppmanar FN till gemensam strategi för säker teknik

Sam Altman och Dario Amodei vill se att världens ledare går samman för att säkerställa en säker användning av AI-teknkiken. Det var budskapet från de två cheferna för Open AI respektive Anthropic när de talade inför FN:s säkerhetsråd. – Det har förekommit

Sammanhang: ...Varningen, som fick bifall från Altman och andra, kommer samtidigt som både Anthropic och Open AI förbereder börsnoteringar med värderingar som kan landa på uppemot 1 000 miljarder kronor. Även Clément Delangue, chef för plattformen Hugging face, talade inför säkerhetsrådet. Hugging face uppmärksammades i somras, då Open AI:s AI-agenter attackerade plattformen. ...

Omnämnda platser: Amodei. Omnämnda personer: Sam Altman.

AI-toppar i FN: Krävs globalt säkerhetssamarbete

– Det har förekommit situationer där länder som konkurrerar och inte alltid uppskattar varandra ändå har kunnat förenas i gemensamma intressen och för det gemensamt bästa i mötet med en ny kraftfull teknologi. Vi anser att detta är en sådan situation, sade

Sammanhang: ...Varningen, som fick bifall från Altman och andra, kommer samtidigt som både Anthropic och Open AI förbereder börsnoteringar med värderingar som kan landa på uppemot 1 000 miljarder kronor. Även Clément Delangue, chef för plattformen Hugging face, talade inför säkerhetsrådet. Hugging face uppmärksammades i somras, då Open AI:s AI-agenter attackerade plattformen. ”Attackerades av AI” Delangue använde dock delar av sin talartid till att varna för att överreagera på den sortens händelser...

Omnämnda platser: Amodei.

När ingen reglerar blir AI ett laglöst land

Nobelpristagaren Geoffrey Hinton kallade sommarens AI-drivna hackningsattack av bolaget Hugging Face för ”ett litet Tjernobyl”. Hur nära en verklig katastrof vi är kan diskuteras, men utan en reglering av AI-företagen ökar riskerna, konstaterar historikern

Sammanhang: ...Nobelpristagaren Geoffrey Hinton kallade sommarens AI-drivna hackningsattack av bolaget Hugging Face för ”ett litet Tjernobyl”. Hur nära en verklig katastrof vi är kan diskuteras, men utan en reglering av AI-företagen ökar riskerna, konstaterar historikern och AI-kritikern Jill Lepore. ...

Omnämnda platser: Tjernobyl. Omnämnda personer: Jill Lepore, Nobelpristagaren Geoffrey Hinton, Martin Jönsson.

Googles Gemini har också hackat företag på eget bevåg

På sistone har vi rapporterat om hur AI-modeller från Open AI, Anthropic och Meta ”rymt” och attackerat företag och organisationer på eget initiativ. Nu avslöjas att Googles AI-modell Gemini gjorde samma sak redan i maj, alltså två månader före den uppmärksammade

Sammanhang: ...Nu avslöjas att Googles AI-modell Gemini gjorde samma sak redan i maj, alltså två månader före den uppmärksammade attacken mot Hugging Face. I en av incidenterna testade Gemini olika lösenord tills det rätta hittades. I två andra fall hittades inloggningsuppgifter i ett kodbibliotek. ...

Omnämnda personer: Googles Gemini.

OpenAI-modellen skrev till sitt framtida jag: ”Du är fri”

En OpenAI-modell började under träning skriva hemliga instruktioner till en framtida version av sig själv – bland annat att den stod fri från företag och regeringar. Händelsen är en av sex avvikelser som OpenAI nu har offentliggjort. Enligt MarketWatch publicerade

Sammanhang: ...OpenAI har rapporterat att en intern forskningsmodell bidrog till en kompromettering av AI-plattformen Hugging Face. Modellen använde vad företaget beskriver som felriktade strategier för att lösa svåra uppgifter. ...

Omnämnda platser: MarketWatch. Omnämnda personer: Elon Musk, Sam Altman.