Anthropic råkade smita under säkerhetstester

Whoopsie! Efter att ha granskat över 140 000 säkerhetstester har AI-bolaget Anthropic konstaterat att deras AI-modell Claude lyckats bryta sig in hos tre olika företag. Anledningen till dessa oavsiktliga dataintrång berodde

Sammanhang: ...L s vidare och kommentera: https://feber.se/internet/anthropic-rakade-smita-under-sakerhetstester/494621/ L s mer om Claude , OpenAI , dataintrång , Hugging Face , AI-säkerhet ...

AI-agent rymde från testmiljö – försökte fuska

Tidigare i juli genomförde OpenAI en intern säkerhetsutvärdering där en avancerad AI-modell testades i ett simulerat cybersäkerhetstest. Enligt en incidentrapport lyckades AI-agenten hitta en tidigare okänd säkerhetsbrist i testmiljön och ta sig vidare till

Sammanhang: ...Intrånget stoppades Aktiviteten upptäcktes av OpenAI:s egna säkerhetsteam samtidigt som Hugging Face identifierade och stoppade intrånget i sin infrastruktur. Företagen samarbetar nu i den fortsatta utredningen. ...

Omnämnda personer: Hugging Face.

Hugging Face inte enda måltavlan för OpenAI:s AI-agent

AI på rymmen gav sig även på andra tjänster Förra veckan blev det känt att en AI-agent från OpenAI på egen hand lyckats angripa och infiltrera AI-plattformen Hugging Face. Nu uppger OpenAI att Hugging

Sammanhang: ...L s vidare och kommentera: https://feber.se/internet/hugging-face-inte-enda-maltavlan-for-openais-ai-agent/494554/ L s mer om Hugging Face , Modal Labs , AI-agent , hacking , Cybersäkerhet , AI-säkerhet ...

Omnämnda personer: Modal Labs.

Anthropic: Begränsa inte öppna AI-modeller men skärp kontrollen av de starkaste

Anthropic har nu presenterat sin syn på hur AI bör regleras efter kritik mot att bolaget inte skrev under ett branschbrev som motsatte sig begränsningar för så kallade open-weight-modeller. Brevet stöddes bland annat av Nvidia, Microsoft, Meta, IBM, Mistral

Sammanhang: ...Brevet stöddes bland annat av Nvidia, Microsoft, Meta, IBM, Mistral och Hugging Face. Vd:n Dario Amodei skriver att regleringen istället bör utgå från en AI-modells faktiska kapacitet och risker. ...

Omnämnda platser: Meta.

Open AI:s skenande AI-agent komprometterade kund hos molnplattform

Open AI:s AI-agent som genomföde ett uppmärksammat intrång mot AI-plattformen Hugging Face ska även komprometterat en kund hos molnplattformen Modal Labs, rapporterar Reuters. Agenten uppges ha utnyttjat en sårbarhet i kundens egen kod, där en oskyddad slutpunkt

Sammanhang: ...Open AI:s AI-agent som genomföde ett uppmärksammat intrång mot AI-plattformen Hugging Face ska även komprometterat en kund hos molnplattformen Modal Labs, rapporterar Reuters. Agenten uppges ha utnyttjat en sårbarhet i kundens egen kod, där en oskyddad slutpunkt gjorde det möjligt för vem som helst att köra kod i en isolerad testmiljö. ...

Omnämnda personer: Modal Labs.

Hugging Face kritiseras för bristande nakenfilter

Ny rapport avslöjar att plattformen saknar skydd mot oönskade nakenbilder Den populära AI-plattformen Hugging Face, som huserar tusentals AI-modeller, har nu åkt på kritik då en ny rapport visar att sajten saknar tillräckliga

Sammanhang: ...L s vidare och kommentera: https://feber.se/samhalle/hugging-face-kritiseras-for-bristande-nakenfilter/494495/ L s mer om Hugging Face , AI Forensics , ChatGPT , Gemini , AI-modeller ...

Nvidia bildar allians för öppet AI-försvar

Open Secure AI Alliance består bland annat av Microsoft, Dell, Cisco, IBM, Red Hat, Hugging Face och Linux Foundation. Syftet är att utveckla och dela öppna verktyg för AI-säkerhet och cyberförsvar. Nvidia ska enligt bolaget bidra med öppna AI-modeller,modellvikter,

Sammanhang: ...Open Secure AI Alliance består bland annat av Microsoft, Dell, Cisco, IBM, Red Hat, Hugging Face och Linux Foundation. Syftet är att utveckla och dela öppna verktyg för AI-säkerhet och cyberförsvar. ...

Omnämnda personer: Red Hat.

Öppen AI‑allians ska stärka säkerheten

NVIDIA och ett stort antal företag inom cloud, cybersäkerhet och AI går ihop i en ny satsning som kallas Open Secure AI Alliance. Målet är att bygga öppna verktyg som gör det möjligt för fler att förstå, testa och förbättra säkerheten i avancerade AI‑system.

Sammanhang: ...Bakgrunden är att dagens AI ofta är stängd och svår att granska, vilket kan försvåra arbetet för dem som ska stoppa intrång och andra attacker. Alliansen lyfter fram ett intrång hos Hugging Face som exempel. När företagets egna, stängda AI‑verktyg inte kunde skilja mellan angripare och försvarare använde de en öppen modell för att analysera tusentals misstänkta händelser och snabbt stoppa attacken. ...

Omnämnda platser: Microsofts.

Techjättar drar igång säkerhetsallians för AI

En del kända namn saknas dock från initiativet Nvidia, Microsoft, SpaceX, Dell, The Linux Foundation, IBM och ett 30-tal andra företag har presenterat något man kallar för "Open Secure AI Alliance", ett initiativ för att skapa

Sammanhang: ...L s vidare och kommentera: https://feber.se/samhalle/techjattar-drar-igang-sakerhetsallians-for-ai/494470/ L s mer om Open Secure AI Alliance , Nvidia , Microsoft , Hugging Face , cybersäkerhet ...

Omnämnda personer: cyber defenders.

Skräckmissen hos ChatGPT – bröt sig loss för hackattack

Till en början förstod ingen vad som hade gått snett. Den 16 juli kom larmet från Hugging Face, en plattform där företag kan träna och testa sina AI-modeller. De hade utsatts för en sofistikerad hackerattack. Men vem låg bakom den? Det tog flera dagar innan

Sammanhang: ...Till en början förstod ingen vad som hade gått snett. Den 16 juli kom larmet från Hugging Face, en plattform där företag kan träna och testa sina AI-modeller. De hade utsatts för en sofistikerad hackerattack. ...

Omnämnda platser: Ryssland, Zaporizjzja, Kina. Omnämnda personer: Chat GPT.