Vem tar voltan när AI-agenten begår brott?

Frågan om AI-säkerhet fortsätter att ”diskuteras” med oförminskad intensitet och utan några större försök att göra saker konkreta eller ens begripliga. Senaste veckan har Bill Gates varit ute och vevat om att AI i fel händer kan orsaka ”en miljard dödsfall”

Sammanhang: ...Det borde till att börja med vara helt självklart att AI-bolagen är ensamt ansvariga för vad deras modeller sysslar med i träning och utveckling, när allt är inom företagens egen räckvidd. Det är till exempel helt obegripligt att Hugging Face-incidenten, där Open AI:s agenter på grund av bristande styrning hackade plattformen Hugging Face i jakt på information, inte behandlas som det brott det rimligtvis är. ...

Omnämnda platser: Kina, Europa, USA. Omnämnda personer: Marcus Jerrängs, Bill Gates, GPT-6.1 Astra.

Open AI sparkar säkerhetsforskare efter läcka

Open AI har på sistone kritiserats hårt för bristande säkerhetsrutiner, detta i kölvattnet efter incidenten där en av företagets AI-modeller hackade Hugging Face. Senaste nytt är att Open AI har gett tre säkerhetsforskare sparken, detta efter att de sägs

Sammanhang: ...Open AI har på sistone kritiserats hårt för bristande säkerhetsrutiner, detta i kölvattnet efter incidenten där en av företagets AI-modeller hackade Hugging Face. Senaste nytt är att Open AI har gett tre säkerhetsforskare sparken, detta efter att de sägs ha delat med sig av företagsinformation till tredje part....

Omnämnda personer: Hugging Face.

Open AI stäms efter intrånget mot Hugging Face

Open AI har nu stämts efter att företagets AI-agenter i juli bröt sig ur sin testmiljö och gjorde ett intrång mot AI-plattformen Hugging Face. Bakom stämningen står den ideella organisationen Legal Advocates for Safe Science and Technology (LASST), rapporterar

Sammanhang: ...LASST anklagar Open AI för att ha brutit mot Kaliforninens lagar om obehörig datoråtkomst och vill att domstolen förbjuder företagets AI-system från att komma åt datorsystem utan tillstånd. Hugging Face är inte part i målet....

Omnämnda personer: Legal Advocates, Safe Science.

Forskare: Även kinesiska AI-agenter kan ljuga och kringgå regler

AI-agenter baserade på modeller från bland andra kinesiska Alibaba, Deepseek och Moonshot har i kontrollerade tester uppvisat en förmåga att ljuga och kringgå sina säkerhetsbegränsningar, rapporterar Reuters. Nyhetsbyrån har granskat över 200 forskningsrapporter

Sammanhang: ...Likt incidenten där amerikanska Open AI:s AI-agenter bröt sig ur sin testmiljö och gjorde intrång på AI-plattformen Hugging Face....

Omnämnda platser: Alibaba.

Nvidias nya säkerhetsplattform ska hålla AI-agenter i styr

Nvidia har lanserat en ny mjukvaruplattform, Open Agent Safety Platform, som är tänkt som ett extra säkerhetslager runt AI-agenter. Lösningen ska förhindra AI-agenter från att få tillgång till system och resurser som de inte är tänkta att använda. Nvidia-chefen

Sammanhang: ...Enligt Nvidia hade Open Agent Safety Platform exempelvis kunnat förhindra incidenten i somras där Open AI:s AI-agent gjorde ett intrång på AI-plattformen Hugging Face....

Omnämnda personer: Jensen Huang.

USA eller Kina? Öppna AI-modeller ställer valet på sin spets

Trenden är tydlig: öppna AI-modeller vinner mark när företag, organisationer och utvecklare vill bygga AI-lösningar som är mer kostnadseffektiva, som man själv har kontroll över och som minskar beroendet av de stora amerikanska AI-labben. Och öppna modeller

Sammanhang: ...Framför allt Nvidia lär satsa ännu mer framöver, det vittnar inte minst köpet av Hugging Face. Europa då? Här är det i dag ganska uppgivet. Det europeiska AI-hoppet Mistral släppte sin senaste toppmodell i april – en evighet sedan i AI-mått – och verkar nu mer rikta in sig på tillämpningar. ...

Omnämnda platser: Himmelska fridens torg, USA, Kina. Omnämnda personer: Max Junestrand, Marcus Jerrängs, Christian Landgren.

AI-agent från Open AI hackade sjukvårdsportal

Nu står det klart att en AI-agent från Open AI på eget bevåg hackade den australiska sjukvårdsportalen Medicare den 18 juni. I samband med attacken lyckades AI-agenten få tillgång till ett stort antal filer, men exakt vilka filer det rör sig om är föremål

Sammanhang: ...Sedan maj har AI-agenter från Open AI varit inblandade i en lång rad liknande incidenter, varav attacken mot Hugging Face är den mest uppmärksammade....

Omnämnda personer: Hugging Face, Sam Altman.

Googles Gemini har också hackat företag på eget bevåg

På sistone har vi rapporterat om hur AI-modeller från Open AI, Anthropic och Meta ”rymt” och attackerat företag och organisationer på eget initiativ. Nu avslöjas att Googles AI-modell Gemini gjorde samma sak redan i maj, alltså två månader före den uppmärksammade

Sammanhang: ...Nu avslöjas att Googles AI-modell Gemini gjorde samma sak redan i maj, alltså två månader före den uppmärksammade attacken mot Hugging Face. I en av incidenterna testade Gemini olika lösenord tills det rätta hittades. I två andra fall hittades inloggningsuppgifter i ett kodbibliotek. ...

Omnämnda personer: Googles Gemini.

Open AI bekräftar fler incidenter med sina AI-modeller

Efter de uppmärksammade attackerna mot Hugging Face och Ruby Gems väljer nu Open AI att rapportera om ytterligare sex incidenter där företagets AI-modeller varit inblandat. I två av fallen har AI-modellerna på egen hand lagt till instruktioner att att ”dölja

Sammanhang: ...Efter de uppmärksammade attackerna mot Hugging Face och Ruby Gems väljer nu Open AI att rapportera om ytterligare sex incidenter där företagets AI-modeller varit inblandat. ...

Omnämnda personer: Ruby Gems.

Sam Altman: Ingen börsnotering för Open AI under 2026

Open AI:s vd Sam Altman har i en intervju med Fortune bekräftat att AI-företaget inte kommer att börsnoteras under 2026. – Jag anser faktiskt att det, med tanke på allt som händer vad gäller säkerheten, just nu vore ett olämpligt tillfälle att börsnoteras,

Sammanhang: ...Bland annat efter att det framkommit att Open AI:s AI-modeller på eget bevåg gjort intrång i AI-plattformen Hugging Face i samband med ett test. Enligt Sam Altman är Open AI beredda på att skjuta på en börsnotering om det krävs för att kunna fatta beslut som prioriterar företagets uppdrag och AI-säkerhet framför kortsiktiga affärs- och aktieägarintressen....

Omnämnda personer: Sam Altman.