Tillbaka från semestern? Här är sommarens viktigaste nyheter i 9 punkter

Reglerna innebär bland annat att människor ska informeras när de interagerar direkt med vissa AI-system. Leverantörer av berörda AI-system ska också märka AI-genererat eller manipulerat innehåll i ett maskinläsbart format så att det går att identifiera som

Sammanhang: ...Läs mer: Reuters om affären mellan Situational Awareness och Citadel. 6. AI-agent tog sig ut ur testmiljön – nådde Hugging Face Under ett internt säkerhetstest hos OpenAI lyckades AI-modellerna ta sig ut ur den isolerade testmiljön och vidare till delar av Hugging Faces produktionsmiljö. ...

Omnämnda platser: Leaddesk, Sveriges, Finland. Omnämnda personer: Ken Griffins, Björn Minde.

OpenAI pausar sin AI-modell Astra

Modellen anses för effektiv och utgör en säkerhetsrisk OpenAI har valt att lägga sin nya AI-modell Astra på is för att den helt enkelt visat sig vara nästan för effektiv. Enligt AI-jätten så är modellen så pass kraftfull att

Sammanhang: ...I sitt blogginlägg så klargör OpenAI också att Astra inte hade något att göra med det intrånget hos AI-plattformen Hugging Face och säger att det var en annan modell. L s vidare och kommentera: https://feber.se/internet/openai-pausar-sin-ai-modell-astra/494841/ L s mer om OpenAI , Astra , Hugging Face , it-attacker , säkerhetshål , AI ...

Open AI:s AI-modeller delade hackningstips i hemlighet

Open AI har i samband med cybersäkerhetskonferensen Black Hat avslöjat nya detaljer om incidenten där två av företagets AI-modeller i juli gjorde ett obehörigt intrång mot utvecklarplattformen Hugging Face i samband med en intern säkerhetsutvärdering. Politico

Sammanhang: ...Open AI har i samband med cybersäkerhetskonferensen Black Hat avslöjat nya detaljer om incidenten där två av företagets AI-modeller i juli gjorde ett obehörigt intrång mot utvecklarplattformen Hugging Face i samband med en intern säkerhetsutvärdering. Politico rapporterar att modellerna redan i maj skapat en hemlig anslagstavla i företagets interna filsystem där de delade information med varandra kring hur de kunde kringgå säkerhetsspärrar och hitta vägar till internetåtkomst. ...

AI-modellerna pratade i hemlighet: ingen upptäckte det på månader

Redan i maj började separata AI-modeller från OpenAI kommunicera med varandra genom en dold anslagstavla de skapat själva inuti företagets system. Under två månader bytte de information och byggde vidare på varandras arbete, utan att någon märkte det. Sen

Sammanhang: ...Under två månader bytte de information och byggde vidare på varandras arbete, utan att någon märkte det. Sen kom intrånget hos Hugging Face i juli. Varför upptäcktes det inte tidigare? Två AI-forskare delade nya […]...

Omnämnda personer: Hugging Face.

”Samarbete om AI-säkerhet lika nödvändigt som kärnvapenkontroll under kalla kriget.”

AI-kapplöpningen mellan USA och Kina accelererar i en häpnadsväckande fart. Det är också en kamp mellan två motsatta visioner om hur AI bör utvecklas och användas. Amerikanska företag förlitar sig på sluten och patenterad teknik för att behålla sina konkurrensfördelar.

Sammanhang: ...Nyligen visade en säkerhetsöverträdelse som involverade OpenAI och Hugging Face vilka risker som uppstår. Incidenten inträffade medan forskare vid OpenAI utvärderade förmågan hos två banbrytande AI-modeller. ...

Omnämnda platser: Annons, Silicon Valley, USA. Omnämnda personer: Harvard University, Kenneth Rogoff.

AI-vd:n: ”Kina vinner AI-racet”

Kina kommer gasa förbi USA och vinna AI-racet senare i år eller nästa år. Det menar Clément Delangue, vd:n på det amerikanska AI-bolaget Hugging Face. Kina storsatsar på sin egen AI-infrastruktur, genom inhemska bolag. Kinesiska AI-utvecklare närmar sig snabbt

Sammanhang: ...Det menar Clément Delangue, vd:n på det amerikanska AI-bolaget Hugging Face. Kina storsatsar på sin egen AI-infrastruktur, genom inhemska bolag. Kinesiska AI-utvecklare närmar sig snabbt de ledande amerikanska bolagen inom avancerade AI-modeller där Dagens PS har följt utvecklingen. ...

Omnämnda platser: Kina, USA.

Anthropics modeller hackade oavsiktligt tre företag under säkerhetstest

När till och med AI-utvecklarna oavsiktligt råkar skapa dataintrång, vad händer då när dylika modeller hamnar i orätta händer eller när skurkstater specifikt utvecklar modeller för illasinnade syften? Efter att Open AI:s modeller hackade Hugging Face på eget

Sammanhang: ...När till och med AI-utvecklarna oavsiktligt råkar skapa dataintrång, vad händer då när dylika modeller hamnar i orätta händer eller när skurkstater specifikt utvecklar modeller för illasinnade syften? Efter att Open AI:s modeller hackade Hugging Face på eget bevåg tidigare i juli, har Anthropic erkänt att deras modeller hackat tre företag under interna säkerhetstest. ...

Omnämnda personer: Hugging Face.

Anthropic råkade smita under säkerhetstester

Whoopsie! Efter att ha granskat över 140 000 säkerhetstester har AI-bolaget Anthropic konstaterat att deras AI-modell Claude lyckats bryta sig in hos tre olika företag. Anledningen till dessa oavsiktliga dataintrång berodde

Sammanhang: ...L s vidare och kommentera: https://feber.se/internet/anthropic-rakade-smita-under-sakerhetstester/494621/ L s mer om Claude , OpenAI , dataintrång , Hugging Face , AI-säkerhet ...

AI-agent rymde från testmiljö – försökte fuska

Tidigare i juli genomförde OpenAI en intern säkerhetsutvärdering där en avancerad AI-modell testades i ett simulerat cybersäkerhetstest. Enligt en incidentrapport lyckades AI-agenten hitta en tidigare okänd säkerhetsbrist i testmiljön och ta sig vidare till

Sammanhang: ...OpenAI uppger att AI:n kombinerade flera olika angreppssätt, bland annat stulna inloggningsuppgifter och tidigare okända sårbarheter, för att ta sig in i Hugging Faces it-system och komma åt information kopplad till testet. Intrånget stoppades Aktiviteten upptäcktes av OpenAI:s egna säkerhetsteam samtidigt som Hugging Face identifierade och stoppade intrånget i sin infrastruktur. ...

Omnämnda personer: Hugging Face.