Open AI inför nya säkerhetsåtgärder efter Hugging Face-intrånget

Open AI inför nu en rad nya säkerhetsåtgärder för att minska riskerna med utvecklingen och testningen av allt mer avancerad AI. Framöver ska modeller övervakas mer noggrant under utvecklingen, samtidigt som säkerheten och alignment får mer fokus under efterträningen.

Sammanhang: ...De nya säkerhetsåtgärderna sker efter en incident i sommar där Open AI:s AI-agenter bröt sig ut och gjorde ett intrång på AI-plattformen Hugging Face. Techcrunch rapporterar samtidigt att enligt Open AI:s representant är de nya säkerhetsåtgärderna inte en direkt reaktion på Hugging Face-incidenten. ...

OpenAI skärper sina regler efter AI-incident

Nya säkerhetsregler och starkare sandlådor ska stoppa AI-rymningar Under sommaren passade en av OpenAI:s modeller på att bryta sig ut ur sin säkra miljö och hacka plattformen Hugging Face under ett test. Detta ansåg man inte

Sammanhang: ...L s vidare och kommentera: https://feber.se/samhalle/openai-skarper-sina-regler-efter-ai-incident/495146/ L s mer om OpenAI , Hugging Face , Astra , Skynet , sandlåda , sandlådor , cybersäkerhet ...

Omnämnda platser: Skynet.

Alibabas öppna AI-modeller är nu världens mest nedladdade

AIibabas öppna AI-modeller i Qwen-familjen har nu passerat tre miljarder nedladdningar globalt. Det betyder att det kinesiska bolagets öppna modeller gått om bland annat Meta och Googles motsvarigheter, rapporterar Bloomberg. Som jämförelse har Googles öppna

Sammanhang: ...Som jämförelse har Googles öppna modeller laddats ner 418 miljoner gånger, medan Meta ligger på 227 miljoner, enligt AI-plattformen Hugging Face. Öppna modeller kan laddas ner av utvecklare för att sedan anpassas och användas som grund för nya AI-tjänster....

Omnämnda platser: Meta.

AI har börjat hacka på egen hand – kan skapa en ny investeringsvåg

OpenAI:s egna AI-modeller klarade inte ett svårt cybersäkerhetstest. De bröt sig ut ur sin testmiljö och försökte hacka sig in på Hugging Faces privata servrar. Ingen illvillig aktör låg bakom. Det var AI:n själv. Nu talas det allt mer om att AI som börjat

Sammanhang: ...Modellen kombinerade stulna inloggningsuppgifter, utnyttjande av zero day-sårbarheter och försök att etablera fjärrkörning av kod på Hugging Faces servrar. Hugging Face registrerade tiotusentals enskilda åtgärder i kortlivade sandlådemiljöer. Bolaget visste inledningsvis inte vem som låg bakom. ...

Omnämnda platser: Asien-Stillahavsregionen. Omnämnda personer: Gene Yu, Gary Marcus.

”Ja – Sverige bör inrätta ett institut för ai-säkerhet”

I juli nåddes vi av nyheten att Open AI under testningen av en ai-modell ovetandes tappade kontrollen över denna, som olovligen lämnade sin sandlåda, tog sig ut på internet och hackade sig in hos ai-företaget Hugging Face i jakt på facit till testfrågorna.

Sammanhang: ...Vad händer om nästa generation ännu kraftfullare ai-modeller får för sig att hacka inte Hugging Face utan sjukhus, banker och kärnvapensystem? Utvecklingen går rasande snabbt, och vi står på randen till en ännu mer explosiv fas där ai självt, snarare än mänskliga ai-ingenjörer, står för utvecklingen av nästa generation av ai: så kallad rekursiv självförbättring. ...

Omnämnda platser: Sverige, USA, Amodei. Omnämnda personer: Senator Bernie Sanders, Niels Paarup-Petersen, Svante Linusson.

Snart kan bara AI skydda oss mot AI

Det har gått en månad sedan årets mest uppmärksammade säkerhetsincident och svallvågorna är inte i närheten av att avta. Om de någonsin kommer att göra det. Händelsen beskrivs som ett sådant där avgörande ögonblick där allting förändras. Och den har dessutom

Sammanhang: ...Jag ska inte gå in i detalj på vad som hände när Open AI:s agenter hackade kodplattformen Hugging Face men för den som inte hängt med upptäckte Hugging Face i mitten av juli att man var utsatta för en cyberattack och det av ett stort antal AI-agenter. ...

Omnämnda platser: USA, Kina, Black. Omnämnda personer: Exploit Gym.

Tillbaka från semestern? Här är sommarens viktigaste nyheter i 9 punkter

Reglerna innebär bland annat att människor ska informeras när de interagerar direkt med vissa AI-system. Leverantörer av berörda AI-system ska också märka AI-genererat eller manipulerat innehåll i ett maskinläsbart format så att det går att identifiera som

Sammanhang: ...Enligt OpenAI utnyttjade modellerna bland annat en tidigare okänd sårbarhet, eskalerade sina rättigheter och kombinerade flera attackvägar. Hugging Face upptäckte och stoppade aktiviteten. OpenAI och Hugging Face har därefter utrett incidenten och skärpt säkerhetsåtgärderna kring den här typen av tester. ...

Omnämnda platser: Leaddesk, Sveriges, Finland. Omnämnda personer: Ken Griffins, Björn Minde.

OpenAI pausar sin AI-modell Astra

Modellen anses för effektiv och utgör en säkerhetsrisk OpenAI har valt att lägga sin nya AI-modell Astra på is för att den helt enkelt visat sig vara nästan för effektiv. Enligt AI-jätten så är modellen så pass kraftfull att

Sammanhang: ...I sitt blogginlägg så klargör OpenAI också att Astra inte hade något att göra med det intrånget hos AI-plattformen Hugging Face och säger att det var en annan modell. L s vidare och kommentera: https://feber.se/internet/openai-pausar-sin-ai-modell-astra/494841/ L s mer om OpenAI , Astra , Hugging Face , it-attacker , säkerhetshål , AI ...

Open AI:s AI-modeller delade hackningstips i hemlighet

Open AI har i samband med cybersäkerhetskonferensen Black Hat avslöjat nya detaljer om incidenten där två av företagets AI-modeller i juli gjorde ett obehörigt intrång mot utvecklarplattformen Hugging Face i samband med en intern säkerhetsutvärdering. Politico

Sammanhang: ...Open AI har i samband med cybersäkerhetskonferensen Black Hat avslöjat nya detaljer om incidenten där två av företagets AI-modeller i juli gjorde ett obehörigt intrång mot utvecklarplattformen Hugging Face i samband med en intern säkerhetsutvärdering. Politico rapporterar att modellerna redan i maj skapat en hemlig anslagstavla i företagets interna filsystem där de delade information med varandra kring hur de kunde kringgå säkerhetsspärrar och hitta vägar till internetåtkomst. ...

AI-modellerna pratade i hemlighet: ingen upptäckte det på månader

Redan i maj började separata AI-modeller från OpenAI kommunicera med varandra genom en dold anslagstavla de skapat själva inuti företagets system. Under två månader bytte de information och byggde vidare på varandras arbete, utan att någon märkte det. Sen

Sammanhang: ...Under två månader bytte de information och byggde vidare på varandras arbete, utan att någon märkte det. Sen kom intrånget hos Hugging Face i juli. Varför upptäcktes det inte tidigare? Två AI-forskare delade nya […]...

Omnämnda personer: Hugging Face.