DEBATT: Kommer Sverige bry sig om vi går under?

DEBATT. I SF, San Fran – eller som de flesta av oss säger, San Francisco – har AI-boomen skapat sitt eget språk. ”Vad är din p(doom)?” Alltså ”probability of doom”. Eller: hur stor är risken att AI till slut leder till mänsklighetens undergång? Det ären

Sammanhang: ...Under utfrågningen diskuterades bland annat den uppmärksammade cyberattacken mot Hugging Face, där AI-agenter från OpenAI hittade sätt att kommunicera och samarbeta för att ta sig in i företagets system. ...

Omnämnda platser: USA, Mexiko, Silicon Valley. Omnämnda personer: Julia Qiu, Hugging Face.

Netflix visar dokumentär om Hugging Face-hacket

Visar hur AI-agenter bröt sig in på AI-plattformen Netflix har släppt en teaser för det fjärde programmet av Instadocs , en dokumentärserie som fokuserar på aktuella händelser. Avsnittet Instadocs:

Sammanhang: ...L s vidare och kommentera: https://feber.se/film/netflix-visar-dokumentar-om-hugging-face-hacket/497107/ L s mer om Instadocs , OpenAI , Hugging Face , Clément Delangue , Daniel Kokotajlo , AI-agenter , dokumentär ...

Omnämnda platser: Instadocs, OpenAI. Omnämnda personer: Daniel Kokotajlo.

Open AI granskar sig själv – med hjälp av AI

Det motsvarar ungefär fem miljoner svenska kronor om dagen. Chat GPT-ägaren inledde granskningen efter att dess AI-agenter bland annat hackat plattformen Hugging Face och Australiens sjukförsäkringssystem Medicare. Materialet som behöver granskas summeras

Sammanhang: ...Chat GPT-ägaren inledde granskningen efter att dess AI-agenter bland annat hackat plattformen Hugging Face och Australiens sjukförsäkringssystem Medicare. Materialet som behöver granskas summeras till 50 petabyte data, vilket motsvarar ungefär 50 miljoner gigabyte. ...

Omnämnda platser: Australiens.

Vem tar voltan när AI-agenten begår brott?

Frågan om AI-säkerhet fortsätter att ”diskuteras” med oförminskad intensitet och utan några större försök att göra saker konkreta eller ens begripliga. Senaste veckan har Bill Gates varit ute och vevat om att AI i fel händer kan orsaka ”en miljard dödsfall”

Sammanhang: ...Det borde till att börja med vara helt självklart att AI-bolagen är ensamt ansvariga för vad deras modeller sysslar med i träning och utveckling, när allt är inom företagens egen räckvidd. Det är till exempel helt obegripligt att Hugging Face-incidenten, där Open AI:s agenter på grund av bristande styrning hackade plattformen Hugging Face i jakt på information, inte behandlas som det brott det rimligtvis är. ...

Omnämnda platser: Kina, Europa, USA. Omnämnda personer: Marcus Jerrängs, Bill Gates, GPT-6.1 Astra.

Open AI sparkar säkerhetsforskare efter läcka

Open AI har på sistone kritiserats hårt för bristande säkerhetsrutiner, detta i kölvattnet efter incidenten där en av företagets AI-modeller hackade Hugging Face. Senaste nytt är att Open AI har gett tre säkerhetsforskare sparken, detta efter att de sägs

Sammanhang: ...Open AI har på sistone kritiserats hårt för bristande säkerhetsrutiner, detta i kölvattnet efter incidenten där en av företagets AI-modeller hackade Hugging Face. Senaste nytt är att Open AI har gett tre säkerhetsforskare sparken, detta efter att de sägs ha delat med sig av företagsinformation till tredje part....

Omnämnda personer: Hugging Face.

Open AI stäms efter intrånget mot Hugging Face

Open AI har nu stämts efter att företagets AI-agenter i juli bröt sig ur sin testmiljö och gjorde ett intrång mot AI-plattformen Hugging Face. Bakom stämningen står den ideella organisationen Legal Advocates for Safe Science and Technology (LASST), rapporterar

Sammanhang: ...LASST anklagar Open AI för att ha brutit mot Kaliforninens lagar om obehörig datoråtkomst och vill att domstolen förbjuder företagets AI-system från att komma åt datorsystem utan tillstånd. Hugging Face är inte part i målet....

Omnämnda personer: Legal Advocates, Safe Science.

Forskare: Även kinesiska AI-agenter kan ljuga och kringgå regler

AI-agenter baserade på modeller från bland andra kinesiska Alibaba, Deepseek och Moonshot har i kontrollerade tester uppvisat en förmåga att ljuga och kringgå sina säkerhetsbegränsningar, rapporterar Reuters. Nyhetsbyrån har granskat över 200 forskningsrapporter

Sammanhang: ...Likt incidenten där amerikanska Open AI:s AI-agenter bröt sig ur sin testmiljö och gjorde intrång på AI-plattformen Hugging Face....

Omnämnda platser: Alibaba.

Nvidia släpper säkerhetsverktyg för AI

OpenShell hade kunnat stoppa attacken mot Hugging Face Nvidia släpper nu ett gäng säkerhetsverktyg som open source som man säger ska minska risken för säkerhetsproblem när AI-modellerna testas.Bland

Sammanhang: ...Bland annat uppger Nvidia att den incident där en AI-modell från OpenAI i somras hackade AI-plattformen Hugging Face, en plattform som Nvidia för övrigt äger nu för tiden, hade kunnat undvikas med Nvidias nya verktyg. ...

Omnämnda platser: OpenAI, Nvidias.

Nvidias nya säkerhetsplattform ska hålla AI-agenter i styr

Nvidia har lanserat en ny mjukvaruplattform, Open Agent Safety Platform, som är tänkt som ett extra säkerhetslager runt AI-agenter. Lösningen ska förhindra AI-agenter från att få tillgång till system och resurser som de inte är tänkta att använda. Nvidia-chefen

Sammanhang: ...Enligt Nvidia hade Open Agent Safety Platform exempelvis kunnat förhindra incidenten i somras där Open AI:s AI-agent gjorde ett intrång på AI-plattformen Hugging Face....

Omnämnda personer: Jensen Huang.

Nvidia släpper nya verktyg för att stoppa AI-agenter från att gå över gränsen

Den amerikanska chipbjässen Nvidia har lanserat två olika verktyg för skydd mot intrång av så kallade AI-agenter: Nvidia Sentry och Open Shell. Verktygen kommer att kunna användas på olika typer av chip från Nvidia och ska i realtid styra vad AI-agenter–

Sammanhang: ...Enligt Justin Boitano, vice vd på Nvidia, hade bland annat det uppmärksammade intrånget på Hugging Face, genomförd av AI-agenter baserade på Open AI:s modeller, gått att avvärja. AI-agenter som spårat ur och gått till angrepp har skakat om AI-branschen och lett till uppmaningar om att bromsa teknikutvecklingen...

Omnämnda personer: Nvidia Sentry, Justin Boitano.