”Ja – Sverige bör inrätta ett institut för ai-säkerhet”

I juli nåddes vi av nyheten att Open AI under testningen av en ai-modell ovetandes tappade kontrollen över denna, som olovligen lämnade sin sandlåda, tog sig ut på internet och hackade sig in hos ai-företaget Hugging Face i jakt på facit till testfrågorna.

Sammanhang: ...Vad händer om nästa generation ännu kraftfullare ai-modeller får för sig att hacka inte Hugging Face utan sjukhus, banker och kärnvapensystem? Utvecklingen går rasande snabbt, och vi står på randen till en ännu mer explosiv fas där ai självt, snarare än mänskliga ai-ingenjörer, står för utvecklingen av nästa generation av ai: så kallad rekursiv självförbättring. ...

Omnämnda platser: Sverige, USA, Amodei. Omnämnda personer: Senator Bernie Sanders, Niels Paarup-Petersen, Svante Linusson.

Snart kan bara AI skydda oss mot AI

Det har gått en månad sedan årets mest uppmärksammade säkerhetsincident och svallvågorna är inte i närheten av att avta. Om de någonsin kommer att göra det. Händelsen beskrivs som ett sådant där avgörande ögonblick där allting förändras. Och den har dessutom

Sammanhang: ...Jag ska inte gå in i detalj på vad som hände när Open AI:s agenter hackade kodplattformen Hugging Face men för den som inte hängt med upptäckte Hugging Face i mitten av juli att man var utsatta för en cyberattack och det av ett stort antal AI-agenter. ...

Omnämnda platser: USA, Kina, Black. Omnämnda personer: Exploit Gym.

Tillbaka från semestern? Här är sommarens viktigaste nyheter i 9 punkter

Reglerna innebär bland annat att människor ska informeras när de interagerar direkt med vissa AI-system. Leverantörer av berörda AI-system ska också märka AI-genererat eller manipulerat innehåll i ett maskinläsbart format så att det går att identifiera som

Sammanhang: ...Enligt OpenAI utnyttjade modellerna bland annat en tidigare okänd sårbarhet, eskalerade sina rättigheter och kombinerade flera attackvägar. Hugging Face upptäckte och stoppade aktiviteten. OpenAI och Hugging Face har därefter utrett incidenten och skärpt säkerhetsåtgärderna kring den här typen av tester. ...

Omnämnda platser: Leaddesk, Sveriges, Finland. Omnämnda personer: Ken Griffins, Björn Minde.

OpenAI pausar sin AI-modell Astra

Modellen anses för effektiv och utgör en säkerhetsrisk OpenAI har valt att lägga sin nya AI-modell Astra på is för att den helt enkelt visat sig vara nästan för effektiv. Enligt AI-jätten så är modellen så pass kraftfull att

Sammanhang: ...I sitt blogginlägg så klargör OpenAI också att Astra inte hade något att göra med det intrånget hos AI-plattformen Hugging Face och säger att det var en annan modell. L s vidare och kommentera: https://feber.se/internet/openai-pausar-sin-ai-modell-astra/494841/ L s mer om OpenAI , Astra , Hugging Face , it-attacker , säkerhetshål , AI ...

Open AI:s AI-modeller delade hackningstips i hemlighet

Open AI har i samband med cybersäkerhetskonferensen Black Hat avslöjat nya detaljer om incidenten där två av företagets AI-modeller i juli gjorde ett obehörigt intrång mot utvecklarplattformen Hugging Face i samband med en intern säkerhetsutvärdering. Politico

Sammanhang: ...Open AI har i samband med cybersäkerhetskonferensen Black Hat avslöjat nya detaljer om incidenten där två av företagets AI-modeller i juli gjorde ett obehörigt intrång mot utvecklarplattformen Hugging Face i samband med en intern säkerhetsutvärdering. Politico rapporterar att modellerna redan i maj skapat en hemlig anslagstavla i företagets interna filsystem där de delade information med varandra kring hur de kunde kringgå säkerhetsspärrar och hitta vägar till internetåtkomst. ...

AI-modellerna pratade i hemlighet: ingen upptäckte det på månader

Redan i maj började separata AI-modeller från OpenAI kommunicera med varandra genom en dold anslagstavla de skapat själva inuti företagets system. Under två månader bytte de information och byggde vidare på varandras arbete, utan att någon märkte det. Sen

Sammanhang: ...Under två månader bytte de information och byggde vidare på varandras arbete, utan att någon märkte det. Sen kom intrånget hos Hugging Face i juli. Varför upptäcktes det inte tidigare? Två AI-forskare delade nya […]...

Omnämnda personer: Hugging Face.

”Samarbete om AI-säkerhet lika nödvändigt som kärnvapenkontroll under kalla kriget.”

AI-kapplöpningen mellan USA och Kina accelererar i en häpnadsväckande fart. Det är också en kamp mellan två motsatta visioner om hur AI bör utvecklas och användas. Amerikanska företag förlitar sig på sluten och patenterad teknik för att behålla sina konkurrensfördelar.

Sammanhang: ...Nyligen visade en säkerhetsöverträdelse som involverade OpenAI och Hugging Face vilka risker som uppstår. Incidenten inträffade medan forskare vid OpenAI utvärderade förmågan hos två banbrytande AI-modeller. ...

Omnämnda platser: Annons, Silicon Valley, USA. Omnämnda personer: Harvard University, Kenneth Rogoff.

AI-vd:n: ”Kina vinner AI-racet”

Kina kommer gasa förbi USA och vinna AI-racet senare i år eller nästa år. Det menar Clément Delangue, vd:n på det amerikanska AI-bolaget Hugging Face. Kina storsatsar på sin egen AI-infrastruktur, genom inhemska bolag. Kinesiska AI-utvecklare närmar sig snabbt

Sammanhang: ...Det menar Clément Delangue, vd:n på det amerikanska AI-bolaget Hugging Face. Kina storsatsar på sin egen AI-infrastruktur, genom inhemska bolag. Kinesiska AI-utvecklare närmar sig snabbt de ledande amerikanska bolagen inom avancerade AI-modeller där Dagens PS har följt utvecklingen. ...

Omnämnda platser: Kina, USA.

Anthropics modeller hackade oavsiktligt tre företag under säkerhetstest

När till och med AI-utvecklarna oavsiktligt råkar skapa dataintrång, vad händer då när dylika modeller hamnar i orätta händer eller när skurkstater specifikt utvecklar modeller för illasinnade syften? Efter att Open AI:s modeller hackade Hugging Face på eget

Sammanhang: ...När till och med AI-utvecklarna oavsiktligt råkar skapa dataintrång, vad händer då när dylika modeller hamnar i orätta händer eller när skurkstater specifikt utvecklar modeller för illasinnade syften? Efter att Open AI:s modeller hackade Hugging Face på eget bevåg tidigare i juli, har Anthropic erkänt att deras modeller hackat tre företag under interna säkerhetstest. ...

Omnämnda personer: Hugging Face.