”Samarbete om AI-säkerhet lika nödvändigt som kärnvapenkontroll under kalla kriget.”

AI-kapplöpningen mellan USA och Kina accelererar i en häpnadsväckande fart. Det är också en kamp mellan två motsatta visioner om hur AI bör utvecklas och användas. Amerikanska företag förlitar sig på sluten och patenterad teknik för att behålla sina konkurrensfördelar.

Sammanhang: ...Nyligen visade en säkerhetsöverträdelse som involverade OpenAI och Hugging Face vilka risker som uppstår. Incidenten inträffade medan forskare vid OpenAI utvärderade förmågan hos två banbrytande AI-modeller. ...

Omnämnda platser: Annons, Silicon Valley, USA. Omnämnda personer: Harvard University, Kenneth Rogoff.

AI-vd:n: ”Kina vinner AI-racet”

Kina kommer gasa förbi USA och vinna AI-racet senare i år eller nästa år. Det menar Clément Delangue, vd:n på det amerikanska AI-bolaget Hugging Face. Kina storsatsar på sin egen AI-infrastruktur, genom inhemska bolag. Kinesiska AI-utvecklare närmar sig snabbt

Sammanhang: ...Det menar Clément Delangue, vd:n på det amerikanska AI-bolaget Hugging Face. Kina storsatsar på sin egen AI-infrastruktur, genom inhemska bolag. Kinesiska AI-utvecklare närmar sig snabbt de ledande amerikanska bolagen inom avancerade AI-modeller där Dagens PS har följt utvecklingen. ...

Omnämnda platser: Kina, USA.

Anthropics modeller hackade oavsiktligt tre företag under säkerhetstest

När till och med AI-utvecklarna oavsiktligt råkar skapa dataintrång, vad händer då när dylika modeller hamnar i orätta händer eller när skurkstater specifikt utvecklar modeller för illasinnade syften? Efter att Open AI:s modeller hackade Hugging Face på eget

Sammanhang: ...När till och med AI-utvecklarna oavsiktligt råkar skapa dataintrång, vad händer då när dylika modeller hamnar i orätta händer eller när skurkstater specifikt utvecklar modeller för illasinnade syften? Efter att Open AI:s modeller hackade Hugging Face på eget bevåg tidigare i juli, har Anthropic erkänt att deras modeller hackat tre företag under interna säkerhetstest. ...

Omnämnda personer: Hugging Face.

Anthropic råkade smita under säkerhetstester

Whoopsie! Efter att ha granskat över 140 000 säkerhetstester har AI-bolaget Anthropic konstaterat att deras AI-modell Claude lyckats bryta sig in hos tre olika företag. Anledningen till dessa oavsiktliga dataintrång berodde

Sammanhang: ...L s vidare och kommentera: https://feber.se/internet/anthropic-rakade-smita-under-sakerhetstester/494621/ L s mer om Claude , OpenAI , dataintrång , Hugging Face , AI-säkerhet ...

AI-agent rymde från testmiljö – försökte fuska

Tidigare i juli genomförde OpenAI en intern säkerhetsutvärdering där en avancerad AI-modell testades i ett simulerat cybersäkerhetstest. Enligt en incidentrapport lyckades AI-agenten hitta en tidigare okänd säkerhetsbrist i testmiljön och ta sig vidare till

Sammanhang: ...Intrånget stoppades Aktiviteten upptäcktes av OpenAI:s egna säkerhetsteam samtidigt som Hugging Face identifierade och stoppade intrånget i sin infrastruktur. Företagen samarbetar nu i den fortsatta utredningen. ...

Omnämnda personer: Hugging Face.

Hugging Face inte enda måltavlan för OpenAI:s AI-agent

AI på rymmen gav sig även på andra tjänster Förra veckan blev det känt att en AI-agent från OpenAI på egen hand lyckats angripa och infiltrera AI-plattformen Hugging Face. Nu uppger OpenAI att Hugging

Sammanhang: ...L s vidare och kommentera: https://feber.se/internet/hugging-face-inte-enda-maltavlan-for-openais-ai-agent/494554/ L s mer om Hugging Face , Modal Labs , AI-agent , hacking , Cybersäkerhet , AI-säkerhet ...

Omnämnda personer: Modal Labs.

Anthropic: Begränsa inte öppna AI-modeller men skärp kontrollen av de starkaste

Anthropic har nu presenterat sin syn på hur AI bör regleras efter kritik mot att bolaget inte skrev under ett branschbrev som motsatte sig begränsningar för så kallade open-weight-modeller. Brevet stöddes bland annat av Nvidia, Microsoft, Meta, IBM, Mistral

Sammanhang: ...Brevet stöddes bland annat av Nvidia, Microsoft, Meta, IBM, Mistral och Hugging Face. Vd:n Dario Amodei skriver att regleringen istället bör utgå från en AI-modells faktiska kapacitet och risker. ...

Omnämnda platser: Meta.

Open AI:s skenande AI-agent komprometterade kund hos molnplattform

Open AI:s AI-agent som genomföde ett uppmärksammat intrång mot AI-plattformen Hugging Face ska även komprometterat en kund hos molnplattformen Modal Labs, rapporterar Reuters. Agenten uppges ha utnyttjat en sårbarhet i kundens egen kod, där en oskyddad slutpunkt

Sammanhang: ...Open AI:s AI-agent som genomföde ett uppmärksammat intrång mot AI-plattformen Hugging Face ska även komprometterat en kund hos molnplattformen Modal Labs, rapporterar Reuters. Agenten uppges ha utnyttjat en sårbarhet i kundens egen kod, där en oskyddad slutpunkt gjorde det möjligt för vem som helst att köra kod i en isolerad testmiljö. ...

Omnämnda personer: Modal Labs.

Hugging Face kritiseras för bristande nakenfilter

Ny rapport avslöjar att plattformen saknar skydd mot oönskade nakenbilder Den populära AI-plattformen Hugging Face, som huserar tusentals AI-modeller, har nu åkt på kritik då en ny rapport visar att sajten saknar tillräckliga

Sammanhang: ...L s vidare och kommentera: https://feber.se/samhalle/hugging-face-kritiseras-for-bristande-nakenfilter/494495/ L s mer om Hugging Face , AI Forensics , ChatGPT , Gemini , AI-modeller ...