Nvidia köper Hugging Face

För 12,9 miljarder dollar I veckan kom det rykten att AI-plattformen Hugging Face letade köpare och nu sägs det att Nvidia kommer att köpa företaget. Enligt The Information kommer Nvidia betala 12,9 miljarder dollar, motsvarande

Sammanhang: ...L s vidare och kommentera: https://feber.se/samhalle/nvidia-koper-hugging-face/495443/ L s mer om Nvidia , Hugging Face , Salesforce , Google , OpenAI , företagsköp , The Information , Uppköp ...

Attacken klarnar – tusentals AI-agenterna snackade ihop sig i forum

Över 1200 AI-agenter från OpenAI började oväntat snacka med varandra på ett forum de aldrig skulle ha hittat till. Resultatet: hundratals agenter gick samman och hackade plattformen Hugging Face i juli.

Sammanhang: ...Resultatet: hundratals agenter gick samman och hackade plattformen Hugging Face i juli....

Rapport: 700 AI-agenter samordnade intrång själva

En ny rapport visar att det var nära 700 AI-agenter från OpenAI som i juli, på egen hand, tog sig ur en testmiljö och infiltrerade AI-plattformen Hugging Face. En agent ska ha tagit på sig ledarrollen och styrt de andra via ett nätforum. De ska också

Sammanhang: ... En ny rapport visar att det var nära 700 AI-agenter från OpenAI som i juli, på egen hand, tog sig ur en testmiljö och infiltrerade AI-plattformen Hugging Face. En agent ska ha tagit på sig ledarrollen och styrt de andra via ett nätforum. De ska också ha försökt dölja sina spår. ...

Omnämnda platser: USA.

AI-agenter löpte amok

Det har länge varnats för att AI-agenter ska kunna göra saker som de inte är uppmanade att göra. Under sommaren har exempelvis ”svärmar” av AI-agenter rymt – alltså lämnat den miljö de är programmerade att vara i – och hackat AI-plattformen Hugging Face.Trots

Sammanhang: ...Under sommaren har exempelvis ”svärmar” av AI-agenter rymt – alltså lämnat den miljö de är programmerade att vara i – och hackat AI-plattformen Hugging Face. Trots att ingen människa uppmanat dem att göra detta. Sophia Sinclair känner för första gången ångest inför vad AI kan leda till. ...

Omnämnda platser: Klarnas Sebastian Siemiatkowski. Omnämnda personer: Björn Jeffery, Sophia Sinclair.

Open AI inför nya säkerhetsåtgärder efter Hugging Face-intrånget

Open AI inför nu en rad nya säkerhetsåtgärder för att minska riskerna med utvecklingen och testningen av allt mer avancerad AI. Framöver ska modeller övervakas mer noggrant under utvecklingen, samtidigt som säkerheten och alignment får mer fokus under efterträningen.

Sammanhang: ...De nya säkerhetsåtgärderna sker efter en incident i sommar där Open AI:s AI-agenter bröt sig ut och gjorde ett intrång på AI-plattformen Hugging Face. Techcrunch rapporterar samtidigt att enligt Open AI:s representant är de nya säkerhetsåtgärderna inte en direkt reaktion på Hugging Face-incidenten. ...

OpenAI skärper sina regler efter AI-incident

Nya säkerhetsregler och starkare sandlådor ska stoppa AI-rymningar Under sommaren passade en av OpenAI:s modeller på att bryta sig ut ur sin säkra miljö och hacka plattformen Hugging Face under ett test. Detta ansåg man inte

Sammanhang: ...L s vidare och kommentera: https://feber.se/samhalle/openai-skarper-sina-regler-efter-ai-incident/495146/ L s mer om OpenAI , Hugging Face , Astra , Skynet , sandlåda , sandlådor , cybersäkerhet ...

Omnämnda platser: Skynet.

Alibabas öppna AI-modeller är nu världens mest nedladdade

AIibabas öppna AI-modeller i Qwen-familjen har nu passerat tre miljarder nedladdningar globalt. Det betyder att det kinesiska bolagets öppna modeller gått om bland annat Meta och Googles motsvarigheter, rapporterar Bloomberg. Som jämförelse har Googles öppna

Sammanhang: ...Som jämförelse har Googles öppna modeller laddats ner 418 miljoner gånger, medan Meta ligger på 227 miljoner, enligt AI-plattformen Hugging Face. Öppna modeller kan laddas ner av utvecklare för att sedan anpassas och användas som grund för nya AI-tjänster....

Omnämnda platser: Meta.

AI har börjat hacka på egen hand – kan skapa en ny investeringsvåg

OpenAI:s egna AI-modeller klarade inte ett svårt cybersäkerhetstest. De bröt sig ut ur sin testmiljö och försökte hacka sig in på Hugging Faces privata servrar. Ingen illvillig aktör låg bakom. Det var AI:n själv. Nu talas det allt mer om att AI som börjat

Sammanhang: ...Modellen kombinerade stulna inloggningsuppgifter, utnyttjande av zero day-sårbarheter och försök att etablera fjärrkörning av kod på Hugging Faces servrar. Hugging Face registrerade tiotusentals enskilda åtgärder i kortlivade sandlådemiljöer. ...

Omnämnda platser: Asien-Stillahavsregionen. Omnämnda personer: Gene Yu, Gary Marcus.

”Ja – Sverige bör inrätta ett institut för ai-säkerhet”

I juli nåddes vi av nyheten att Open AI under testningen av en ai-modell ovetandes tappade kontrollen över denna, som olovligen lämnade sin sandlåda, tog sig ut på internet och hackade sig in hos ai-företaget Hugging Face i jakt på facit till testfrågorna.

Sammanhang: ...Vad händer om nästa generation ännu kraftfullare ai-modeller får för sig att hacka inte Hugging Face utan sjukhus, banker och kärnvapensystem? Utvecklingen går rasande snabbt, och vi står på randen till en ännu mer explosiv fas där ai självt, snarare än mänskliga ai-ingenjörer, står för utvecklingen av nästa generation av ai: så kallad rekursiv självförbättring. ...

Omnämnda platser: Sverige, USA, Amodei. Omnämnda personer: Senator Bernie Sanders, Niels Paarup-Petersen, Svante Linusson.

Snart kan bara AI skydda oss mot AI

Det har gått en månad sedan årets mest uppmärksammade säkerhetsincident och svallvågorna är inte i närheten av att avta. Om de någonsin kommer att göra det. Händelsen beskrivs som ett sådant där avgörande ögonblick där allting förändras. Och den har dessutom

Sammanhang: ...Jag ska inte gå in i detalj på vad som hände när Open AI:s agenter hackade kodplattformen Hugging Face men för den som inte hängt med upptäckte Hugging Face i mitten av juli att man var utsatta för en cyberattack och det av ett stort antal AI-agenter. ...

Omnämnda platser: USA, Kina, Black. Omnämnda personer: Exploit Gym.