AI-toppar i FN: Krävs globalt säkerhetssamarbete

– Det har förekommit situationer där länder som konkurrerar och inte alltid uppskattar varandra ändå har kunnat förenas i gemensamma intressen och för det gemensamt bästa i mötet med en ny kraftfull teknologi. Vi anser att detta är en sådan situation, sade

Sammanhang: ...Även Clément Delangue, chef för plattformen Hugging face, talade inför säkerhetsrådet. Hugging face uppmärksammades i somras, då Open AI:s AI-agenter attackerade plattformen. ”Attackerades av AI” Delangue använde dock delar av sin talartid till att varna för att överreagera på den sortens händelser...

Omnämnda platser: Amodei.

Open AI:s agenter bakom ytterligare cyberattack

Det var så kallade AI-agenter som testades av Open AI som genomförde en attack mot Rubygems, en onlinetjänst för kodare, som behövde stoppa registreringen av nya konton för att hantera attacken. Open AI bekräftar att företagets AI-agenter varit inblandade

Sammanhang: ...Den mer uppmärksammade attacken skedde i juli, då Open AI:s AI-agenter attackerade plattformen Hugging Face. Open AI, som ligger bakom ChatGPT, har tidigare uppgett att det framöver kommer att införa hårdare restriktioner för AI-modellernas internetåtkomst och bättre övervakning....

AI-agent rymde från testmiljö – försökte fuska

Tidigare i juli genomförde OpenAI en intern säkerhetsutvärdering där en avancerad AI-modell testades i ett simulerat cybersäkerhetstest. Enligt en incidentrapport lyckades AI-agenten hitta en tidigare okänd säkerhetsbrist i testmiljön och ta sig vidare till

Sammanhang: ...Intrånget stoppades Aktiviteten upptäcktes av OpenAI:s egna säkerhetsteam samtidigt som Hugging Face identifierade och stoppade intrånget i sin infrastruktur. Företagen samarbetar nu i den fortsatta utredningen. ...

Omnämnda personer: Hugging Face.