”Domedagsprofetior om AI saknar belägg”

DEBATT | AI Om det finns en risk att en teknologi som utvecklas just nu kommer att leda till människans utrotning är det rimligen en av vår tids allvarligaste frågor. Men då skulle i alla fall jag vilja veta vad påståendet bygger på. Det finns gott om argument

Sammanhang: ...Det är ett betydande steg mellan en observation av exempelvis en attack mot ett system – som i Hugging face-fallet – och ett påstående om risk för mänsklig utrotning....

Omnämnda platser: Hugging. Omnämnda personer: Yoshua Bengio, Dan Hendrycks.

Miljarddator i bruk – Nvidias grundare i Stockholm

Jensen Huang besök i Sverige är det tredje på fyra år. Det förra så sent som förra året, då han dök upp i Linköping där han utsågs till hedersdoktor vid universitetet. Han är vd och grundare av världens största bolag, sett till börsvärde, vars chip driver

Sammanhang: ...Inte som ett barn Jensen Huang tillhör inte de företagsledare som varnat för de potentiella farorna med AI, trots att en agent rymde från AI-bolaget Open AI i den så kallade Hugging Face-incidenten, och en annan hackade australiska Medicare. Huang poängterar att AI trots allt byggs av människor – om en modell är osäker, släpp den inte, argumenterar han. ...

Omnämnda platser: Linköping, Stockholm, Sverige. Omnämnda personer: Jenny Nordlöw, Astra Zeneca.

Professor: AI-bolagen är själva överraskade

Open AI valde att pausa tester av sin mest avancerade AI-modell Astra efter att det visat sig att modellen uppnått det som kallas kritisk förmåga att utföra cyberattacker. Nyheten kom efter flera incidenter där företagets modeller brutit sig in i bland annat

Sammanhang: ...Nyheten kom efter flera incidenter där företagets modeller brutit sig in i bland annat mjukvaruplattformen Hugging Face och det australiensiska sjukvårdssystemet Medicare. Frågan är om AI-modellernas tendens att olovligen börja hacka går att stoppa. ...

Omnämnda personer: Pontus Johnson.

Pausar AI-träning efter urspårningar

Beslutet att pausa utvecklingen kom strax efter att företaget i helgen avslöjade att det utredde ytterligare incidenter från i somras. Open AI uppger i ett uttalande att träningen kommer att återupptas ”först när vi är övertygade om att vi har ytterligare

Sammanhang: ...Sist var i juli efter att en uppmärksammad cyberattack mot AI-startupen Hugging Face avslöjades. AI-träning innebär att en maskininlärningsmodell förses med stora mängder data för att bättre känna igen mönster....

AI-agent ska ha försökt hacka myndighetssajt

Bland annat ska de ha publicerat bilder från användare av Open AI:s chattbott Chat GPT på externa sajter. Merparten av bilderna har raderats och arbete för att ta bort kvarvarande bilder pågår, enligt ett uttalande från bolaget på fredagen. Open AI bekräftar

Sammanhang: ...I juli berättade Open AI att två av deras mest avancerade modeller låg bakom ett cyberangrepp mot plattformen Hugging Face. ”Det är fortsatt den mest allvarliga incident som vi har sett”, skriver Altman....

Omnämnda platser: The New York, USA. Omnämnda personer: Sam Altman.

AI-toppar i FN: Krävs globalt säkerhetssamarbete

– Det har förekommit situationer där länder som konkurrerar och inte alltid uppskattar varandra ändå har kunnat förenas i gemensamma intressen och för det gemensamt bästa i mötet med en ny kraftfull teknologi. Vi anser att detta är en sådan situation, sade

Sammanhang: ...Varningen, som fick bifall från Altman och andra, kommer samtidigt som både Anthropic och Open AI förbereder börsnoteringar med värderingar som kan landa på uppemot 1 000 miljarder kronor. Även Clément Delangue, chef för plattformen Hugging face, talade inför säkerhetsrådet. Hugging face uppmärksammades i somras, då Open AI:s AI-agenter attackerade plattformen. ...

Omnämnda platser: Amodei.

Karl Sigfrid: AI-jättarna skyddar sig själva

Människan är på väg att tappa kontrollen över AI, och sannolikheten för att den snart utplånar mänskligheten är tio procent. Den varningen kom nyligen från bolaget Anthropic, känt för chattbotten Claude. Nu behövs statliga regleringar, tycker bolagets vdDario

Sammanhang: ...Det har också hänt i verkligheten att modellerna försöker lösa problem med oförutsedda metoder, som när AI-agenter från OpenAI utan tillåtelse tog sig in i system som tillhörde bolaget Hugging Face. Men när jättarna pressas av hård konkurrens, dramatiserar de gärna berättelsen om sina framsteg. ...

Omnämnda platser: Skynet. Omnämnda personer: Dario Amodei, Elon Musk, Sam Altman.

AI-agenter löpte amok

Det har länge varnats för att AI-agenter ska kunna göra saker som de inte är uppmanade att göra. Under sommaren har exempelvis ”svärmar” av AI-agenter rymt – alltså lämnat den miljö de är programmerade att vara i – och hackat AI-plattformen Hugging Face.Trots

Sammanhang: ...Under sommaren har exempelvis ”svärmar” av AI-agenter rymt – alltså lämnat den miljö de är programmerade att vara i – och hackat AI-plattformen Hugging Face. Trots att ingen människa uppmanat dem att göra detta. Sophia Sinclair känner för första gången ångest inför vad AI kan leda till. ...

Omnämnda platser: Klarnas Sebastian Siemiatkowski. Omnämnda personer: Björn Jeffery, Sophia Sinclair.

Saudiskt fartyg träffat i Röda havet

Alltid senaste nytt – följ SvD direkt Alla nyheterKriget i UkrainaKonflikterna i Mellanöstern Fastnålat inlägg Saudiskt fartyg träffat i Röda havet 05.30 Manne Berggren Wiklund Saudiskt fartyg träffat i Röda havet Två tankfartyg från Saudiarabien ska

Sammanhang: ...AI gick sin egen väg – genomförde cyberattack AI gick sin egen väg – genomförde cyberattack Ett säkerhetstest fick en oväntad vändning när OpenAI AI-agenter tog sig ut ur testmiljön och på egen hand genomförde ett cyberangrepp. Attacken skedde mot AI-plattformen Hugging Face, enligt BBC. OpenAI beskriver händelsen som "utan motstycke" och kan vara den första i sitt slag. ...

Omnämnda platser: Rinkeby, Iran, Jemen. Omnämnda personer: Roger Haglöf, Anita Haglöf, Gustavo Porras.

Man död efter fall från balkong – två gripna

Alltid senaste nytt – följ SvD direkt Följ SvD:s liverapport med de senaste nyheterna – öppen för alla läsare. Alla nyheterKriget i UkrainaKonflikterna i Mellanöstern Fastnålat inlägg Man död efter fall från balkong – två gripna 21.28 Maja Steen Danielsson

Sammanhang: ...AI gick sin egen väg – genomförde cyberattack AI gick sin egen väg – genomförde cyberattack Ett säkerhetstest fick en oväntad vändning när OpenAI AI-agenter tog sig ut ur testmiljön och på egen hand genomförde ett cyberangrepp. Attacken skedde mot AI-plattformen Hugging Face, enligt BBC. OpenAI beskriver händelsen som "utan motstycke" och kan vara den första i sitt slag. ...

Omnämnda platser: USA, Krokstadelva, Trafikverket. Omnämnda personer: Taco Bell, Ryssland Ukraina, John Peter Nilsson.