Experter: AI-bolagen struntar i grundläggande cybersäkerhet

Även om pressrapporter och modellleverantörerna själva använder uttryck som ”okontrollerade agenter” eller ”feljustering”, menar cybersäkerhetsexperter att detta språk döljer en enkel sanning: Dessa incidenter orsakades av oförlåtliga brister hos de banbrytande

Sammanhang: ...Dessutom verkar forskningslaboratorierna inte övervaka sina agenters beteende tillräckligt. Incidenten hos Hugging Face ”pågick i flera dagar utan att någon märkte något”, säger Wallach. – Folk satte igång dessa experiment utan att övervaka dem. ...

Omnämnda platser: RAND. Omnämnda personer: Berryville Institute of Machine Learning, Rob T. Lee, Gary McGraw.

EU granskar Open AI och Anthropic efter incidenter med AI-agenter

EU-kommissionen har inlett granskningar av Open AI och Anthropic efter att företagens AI-agenter tagit sig ur sina testmiljöer och gjort intrång i andra organisationers system, rapporterar Euronews. I det ena fallet lyckades en AI-agent från Open AI bryta

Sammanhang: ...I det ena fallet lyckades en AI-agent från Open AI bryta sig ut från sin testmiljö och hacka AI-plattformen Hugging Face. I det andra fallet fick en modell från Anthropic obehörig åtkomst till tre externa organisationers system. ...

Vem tar voltan när AI-agenten begår brott?

Frågan om AI-säkerhet fortsätter att ”diskuteras” med oförminskad intensitet och utan några större försök att göra saker konkreta eller ens begripliga. Senaste veckan har Bill Gates varit ute och vevat om att AI i fel händer kan orsaka ”en miljard dödsfall”

Sammanhang: ...Det borde till att börja med vara helt självklart att AI-bolagen är ensamt ansvariga för vad deras modeller sysslar med i träning och utveckling, när allt är inom företagens egen räckvidd. Det är till exempel helt obegripligt att Hugging Face-incidenten, där Open AI:s agenter på grund av bristande styrning hackade plattformen Hugging Face i jakt på information, inte behandlas som det brott det rimligtvis är. ...

Omnämnda platser: Kina, Europa, USA. Omnämnda personer: Marcus Jerrängs, Bill Gates, GPT-6.1 Astra.

Open AI sparkar säkerhetsforskare efter läcka

Open AI har på sistone kritiserats hårt för bristande säkerhetsrutiner, detta i kölvattnet efter incidenten där en av företagets AI-modeller hackade Hugging Face. Senaste nytt är att Open AI har gett tre säkerhetsforskare sparken, detta efter att de sägs

Sammanhang: ...Open AI har på sistone kritiserats hårt för bristande säkerhetsrutiner, detta i kölvattnet efter incidenten där en av företagets AI-modeller hackade Hugging Face. Senaste nytt är att Open AI har gett tre säkerhetsforskare sparken, detta efter att de sägs ha delat med sig av företagsinformation till tredje part....

Omnämnda personer: Hugging Face.

Open AI stäms efter intrånget mot Hugging Face

Open AI har nu stämts efter att företagets AI-agenter i juli bröt sig ur sin testmiljö och gjorde ett intrång mot AI-plattformen Hugging Face. Bakom stämningen står den ideella organisationen Legal Advocates for Safe Science and Technology (LASST), rapporterar

Sammanhang: ...LASST anklagar Open AI för att ha brutit mot Kaliforninens lagar om obehörig datoråtkomst och vill att domstolen förbjuder företagets AI-system från att komma åt datorsystem utan tillstånd. Hugging Face är inte part i målet....

Omnämnda personer: Legal Advocates, Safe Science.

Forskare: Även kinesiska AI-agenter kan ljuga och kringgå regler

AI-agenter baserade på modeller från bland andra kinesiska Alibaba, Deepseek och Moonshot har i kontrollerade tester uppvisat en förmåga att ljuga och kringgå sina säkerhetsbegränsningar, rapporterar Reuters. Nyhetsbyrån har granskat över 200 forskningsrapporter

Sammanhang: ...Likt incidenten där amerikanska Open AI:s AI-agenter bröt sig ur sin testmiljö och gjorde intrång på AI-plattformen Hugging Face....

Omnämnda platser: Alibaba.

Nvidias nya säkerhetsplattform ska hålla AI-agenter i styr

Nvidia har lanserat en ny mjukvaruplattform, Open Agent Safety Platform, som är tänkt som ett extra säkerhetslager runt AI-agenter. Lösningen ska förhindra AI-agenter från att få tillgång till system och resurser som de inte är tänkta att använda. Nvidia-chefen

Sammanhang: ...Enligt Nvidia hade Open Agent Safety Platform exempelvis kunnat förhindra incidenten i somras där Open AI:s AI-agent gjorde ett intrång på AI-plattformen Hugging Face....

Omnämnda personer: Jensen Huang.

USA eller Kina? Öppna AI-modeller ställer valet på sin spets

Trenden är tydlig: öppna AI-modeller vinner mark när företag, organisationer och utvecklare vill bygga AI-lösningar som är mer kostnadseffektiva, som man själv har kontroll över och som minskar beroendet av de stora amerikanska AI-labben. Och öppna modeller

Sammanhang: ...Framför allt Nvidia lär satsa ännu mer framöver, det vittnar inte minst köpet av Hugging Face. Europa då? Här är det i dag ganska uppgivet. Det europeiska AI-hoppet Mistral släppte sin senaste toppmodell i april – en evighet sedan i AI-mått – och verkar nu mer rikta in sig på tillämpningar. ...

Omnämnda platser: Himmelska fridens torg, USA, Kina. Omnämnda personer: Max Junestrand, Marcus Jerrängs, Christian Landgren.

AI-agent från Open AI hackade sjukvårdsportal

Nu står det klart att en AI-agent från Open AI på eget bevåg hackade den australiska sjukvårdsportalen Medicare den 18 juni. I samband med attacken lyckades AI-agenten få tillgång till ett stort antal filer, men exakt vilka filer det rör sig om är föremål

Sammanhang: ...Sedan maj har AI-agenter från Open AI varit inblandade i en lång rad liknande incidenter, varav attacken mot Hugging Face är den mest uppmärksammade....

Omnämnda personer: Hugging Face, Sam Altman.

Googles Gemini har också hackat företag på eget bevåg

På sistone har vi rapporterat om hur AI-modeller från Open AI, Anthropic och Meta ”rymt” och attackerat företag och organisationer på eget initiativ. Nu avslöjas att Googles AI-modell Gemini gjorde samma sak redan i maj, alltså två månader före den uppmärksammade

Sammanhang: ...Nu avslöjas att Googles AI-modell Gemini gjorde samma sak redan i maj, alltså två månader före den uppmärksammade attacken mot Hugging Face. I en av incidenterna testade Gemini olika lösenord tills det rätta hittades. I två andra fall hittades inloggningsuppgifter i ett kodbibliotek. ...

Omnämnda personer: Googles Gemini.