”Domedagsprofetior om AI saknar belägg”

DEBATT | AI Om det finns en risk att en teknologi som utvecklas just nu kommer att leda till människans utrotning är det rimligen en av vår tids allvarligaste frågor. Men då skulle i alla fall jag vilja veta vad påståendet bygger på. Det finns gott om argument

Sammanhang: ...Det är ett betydande steg mellan en observation av exempelvis en attack mot ett system – som i Hugging face-fallet – och ett påstående om risk för mänsklig utrotning....

Omnämnda platser: Hugging. Omnämnda personer: Yoshua Bengio, Dan Hendrycks.

Meta släpper öppna AI-modellen Muse Spark Open

Slår de bästa kinesiska modellerna Efter att Meta presenterat slutna versioner av sin senaste AI-modellfamilj Muse släpper man nu även en öppen version av denna vilken man gett namnet Muse Spark Open. Muse Spark Open har

Sammanhang: ...Modellen kommer även att kunna köras på fyra stycken M5 Ultra Mac Studios med 256GB arbetsminne var, datorer som går att köpa för cirka 120.000 kronor styck. Muse Spark Open går att ladda hem nu från Hugging Face här . L s vidare och kommentera: https://feber.se/internet/meta-slapper-oppna-ai-modellen-muse-spark-open/497399/ L s mer om Meta , Muse Spark Open , Apple Silicon , Mac Studio , Hugging Face , AI lokalt , Lokal AI ...

Omnämnda platser: Apple Silicon. Omnämnda personer: Kimi K3, Mac Studios, Muse Spark.

Experter: AI-bolagen struntar i grundläggande cybersäkerhet

Även om pressrapporter och modellleverantörerna själva använder uttryck som ”okontrollerade agenter” eller ”feljustering”, menar cybersäkerhetsexperter att detta språk döljer en enkel sanning: Dessa incidenter orsakades av oförlåtliga brister hos de banbrytande

Sammanhang: ...Dessutom verkar forskningslaboratorierna inte övervaka sina agenters beteende tillräckligt. Incidenten hos Hugging Face ”pågick i flera dagar utan att någon märkte något”, säger Wallach. – Folk satte igång dessa experiment utan att övervaka dem. ...

Omnämnda platser: RAND. Omnämnda personer: Berryville Institute of Machine Learning, Rob T. Lee, Gary McGraw.

Nvidias vd i Stockholm: Därför ser han ingen AI-risk för svenska företag

Flera AI-toppar har höjt varnande finger sedan så kallade AI-agenter rymt och orsakat dataintrång. Nvidias vd Jensen Huang är inte en av dem. Inget svenskt företag borde någonsin dyka upp i en tidningsartikel för någon agent-incident, säger han under ettSverigebesök.

Sammanhang: ...Inte som ett barn Jensen Huang tillhör inte de företagsledare som varnat för de potentiella farorna med AI, trots att en agent rymde från AI-bolaget Open AI i den så kallade Hugging Face-incidenten, och en annan hackade australiska Medicare. Huang poängterar att AI trots allt byggs av människor – om en modell är osäker, släpp den inte, argumenterar han. ...

Omnämnda platser: Sverige, Sverigebesök, Linköping. Omnämnda personer: Jenny Nordlöw, Astra Zeneca.

Miljarddator i bruk – Nvidias grundare i Stockholm

Jensen Huang besök i Sverige är det tredje på fyra år. Det förra så sent som förra året, då han dök upp i Linköping där han utsågs till hedersdoktor vid universitetet. Han är vd och grundare av världens största bolag, sett till börsvärde, vars chip driver

Sammanhang: ...Inte som ett barn Jensen Huang tillhör inte de företagsledare som varnat för de potentiella farorna med AI, trots att en agent rymde från AI-bolaget Open AI i den så kallade Hugging Face-incidenten, och en annan hackade australiska Medicare. Huang poängterar att AI trots allt byggs av människor – om en modell är osäker, släpp den inte, argumenterar han. ...

Omnämnda platser: Linköping, Stockholm, Sverige. Omnämnda personer: Jenny Nordlöw, Astra Zeneca.

EU granskar Open AI och Anthropic efter incidenter med AI-agenter

EU-kommissionen har inlett granskningar av Open AI och Anthropic efter att företagens AI-agenter tagit sig ur sina testmiljöer och gjort intrång i andra organisationers system, rapporterar Euronews. I det ena fallet lyckades en AI-agent från Open AI bryta

Sammanhang: ...I det ena fallet lyckades en AI-agent från Open AI bryta sig ut från sin testmiljö och hacka AI-plattformen Hugging Face. I det andra fallet fick en modell från Anthropic obehörig åtkomst till tre externa organisationers system. ...

DEBATT: Kommer Sverige bry sig om vi går under?

DEBATT. I SF, San Fran – eller som de flesta av oss säger, San Francisco – har AI-boomen skapat sitt eget språk. ”Vad är din p(doom)?” Alltså ”probability of doom”. Eller: hur stor är risken att AI till slut leder till mänsklighetens undergång? Det ären

Sammanhang: ...Under utfrågningen diskuterades bland annat den uppmärksammade cyberattacken mot Hugging Face, där AI-agenter från OpenAI hittade sätt att kommunicera och samarbeta för att ta sig in i företagets system. ...

Omnämnda platser: USA, Mexiko, Silicon Valley. Omnämnda personer: Julia Qiu, Hugging Face.

Netflix visar dokumentär om Hugging Face-hacket

Visar hur AI-agenter bröt sig in på AI-plattformen Netflix har släppt en teaser för det fjärde programmet av Instadocs , en dokumentärserie som fokuserar på aktuella händelser. Avsnittet Instadocs:

Sammanhang: ...L s vidare och kommentera: https://feber.se/film/netflix-visar-dokumentar-om-hugging-face-hacket/497107/ L s mer om Instadocs , OpenAI , Hugging Face , Clément Delangue , Daniel Kokotajlo , AI-agenter , dokumentär ...

Omnämnda platser: Instadocs, OpenAI. Omnämnda personer: Daniel Kokotajlo.

Open AI granskar sig själv – med hjälp av AI

Det motsvarar ungefär fem miljoner svenska kronor om dagen. Chat GPT-ägaren inledde granskningen efter att dess AI-agenter bland annat hackat plattformen Hugging Face och Australiens sjukförsäkringssystem Medicare. Materialet som behöver granskas summeras

Sammanhang: ...Chat GPT-ägaren inledde granskningen efter att dess AI-agenter bland annat hackat plattformen Hugging Face och Australiens sjukförsäkringssystem Medicare. Materialet som behöver granskas summeras till 50 petabyte data, vilket motsvarar ungefär 50 miljoner gigabyte. ...

Omnämnda platser: Australiens.

Vem tar voltan när AI-agenten begår brott?

Frågan om AI-säkerhet fortsätter att ”diskuteras” med oförminskad intensitet och utan några större försök att göra saker konkreta eller ens begripliga. Senaste veckan har Bill Gates varit ute och vevat om att AI i fel händer kan orsaka ”en miljard dödsfall”

Sammanhang: ...Det borde till att börja med vara helt självklart att AI-bolagen är ensamt ansvariga för vad deras modeller sysslar med i träning och utveckling, när allt är inom företagens egen räckvidd. Det är till exempel helt obegripligt att Hugging Face-incidenten, där Open AI:s agenter på grund av bristande styrning hackade plattformen Hugging Face i jakt på information, inte behandlas som det brott det rimligtvis är. ...

Omnämnda platser: Kina, Europa, USA. Omnämnda personer: Marcus Jerrängs, Bill Gates, GPT-6.1 Astra.