Professor: AI-bolagen är själva överraskade

Open AI valde att pausa tester av sin mest avancerade AI-modell Astra efter att det visat sig att modellen uppnått det som kallas kritisk förmåga att utföra cyberattacker. Nyheten kom efter flera incidenter där företagets modeller brutit sig in i bland annat

Sammanhang: ...Nyheten kom efter flera incidenter där företagets modeller brutit sig in i bland annat mjukvaruplattformen Hugging Face och det australiensiska sjukvårdssystemet Medicare. Frågan är om AI-modellernas tendens att olovligen börja hacka går att stoppa. ...

Omnämnda personer: Pontus Johnson.

Pausar AI-träning efter urspårningar

Beslutet att pausa utvecklingen kom strax efter att företaget i helgen avslöjade att det utredde ytterligare incidenter från i somras. Open AI uppger i ett uttalande att träningen kommer att återupptas ”först när vi är övertygade om att vi har ytterligare

Sammanhang: ...Sist var i juli efter att en uppmärksammad cyberattack mot AI-startupen Hugging Face avslöjades. AI-träning innebär att en maskininlärningsmodell förses med stora mängder data för att bättre känna igen mönster....

AI-agent ska ha försökt hacka myndighetssajt

Bland annat ska de ha publicerat bilder från användare av Open AI:s chattbott Chat GPT på externa sajter. Merparten av bilderna har raderats och arbete för att ta bort kvarvarande bilder pågår, enligt ett uttalande från bolaget på fredagen. Open AI bekräftar

Sammanhang: ...I juli berättade Open AI att två av deras mest avancerade modeller låg bakom ett cyberangrepp mot plattformen Hugging Face. ”Det är fortsatt den mest allvarliga incident som vi har sett”, skriver Altman....

Omnämnda platser: The New York, USA. Omnämnda personer: Sam Altman.

AI-toppar i FN: Krävs globalt säkerhetssamarbete

– Det har förekommit situationer där länder som konkurrerar och inte alltid uppskattar varandra ändå har kunnat förenas i gemensamma intressen och för det gemensamt bästa i mötet med en ny kraftfull teknologi. Vi anser att detta är en sådan situation, sade

Sammanhang: ...Även Clément Delangue, chef för plattformen Hugging face, talade inför säkerhetsrådet. Hugging face uppmärksammades i somras, då Open AI:s AI-agenter attackerade plattformen. ...

Omnämnda platser: Amodei.

Karl Sigfrid: AI-jättarna skyddar sig själva

Människan är på väg att tappa kontrollen över AI, och sannolikheten för att den snart utplånar mänskligheten är tio procent. Den varningen kom nyligen från bolaget Anthropic, känt för chattbotten Claude. Nu behövs statliga regleringar, tycker bolagets vdDario

Sammanhang: ...Det har också hänt i verkligheten att modellerna försöker lösa problem med oförutsedda metoder, som när AI-agenter från OpenAI utan tillåtelse tog sig in i system som tillhörde bolaget Hugging Face. Men när jättarna pressas av hård konkurrens, dramatiserar de gärna berättelsen om sina framsteg. ...

Omnämnda platser: Skynet. Omnämnda personer: Dario Amodei, Elon Musk, Sam Altman.

AI-agenter löpte amok

Det har länge varnats för att AI-agenter ska kunna göra saker som de inte är uppmanade att göra. Under sommaren har exempelvis ”svärmar” av AI-agenter rymt – alltså lämnat den miljö de är programmerade att vara i – och hackat AI-plattformen Hugging Face.Trots

Sammanhang: ...Under sommaren har exempelvis ”svärmar” av AI-agenter rymt – alltså lämnat den miljö de är programmerade att vara i – och hackat AI-plattformen Hugging Face. Trots att ingen människa uppmanat dem att göra detta. Sophia Sinclair känner för första gången ångest inför vad AI kan leda till. ...

Omnämnda platser: Klarnas Sebastian Siemiatkowski. Omnämnda personer: Björn Jeffery, Sophia Sinclair.

Saudiskt fartyg träffat i Röda havet

Alltid senaste nytt – följ SvD direkt Alla nyheterKriget i UkrainaKonflikterna i Mellanöstern Fastnålat inlägg Saudiskt fartyg träffat i Röda havet 05.30 Manne Berggren Wiklund Saudiskt fartyg träffat i Röda havet Två tankfartyg från Saudiarabien ska

Sammanhang: ...AI gick sin egen väg – genomförde cyberattack AI gick sin egen väg – genomförde cyberattack Ett säkerhetstest fick en oväntad vändning när OpenAI AI-agenter tog sig ut ur testmiljön och på egen hand genomförde ett cyberangrepp. Attacken skedde mot AI-plattformen Hugging Face, enligt BBC. OpenAI beskriver händelsen som "utan motstycke" och kan vara den första i sitt slag. ...

Omnämnda platser: Rinkeby, Iran, Jemen. Omnämnda personer: Roger Haglöf, Anita Haglöf, Gustavo Porras.

Man död efter fall från balkong – två gripna

Alltid senaste nytt – följ SvD direkt Följ SvD:s liverapport med de senaste nyheterna – öppen för alla läsare. Alla nyheterKriget i UkrainaKonflikterna i Mellanöstern Fastnålat inlägg Man död efter fall från balkong – två gripna 21.28 Maja Steen Danielsson

Sammanhang: ...AI gick sin egen väg – genomförde cyberattack AI gick sin egen väg – genomförde cyberattack Ett säkerhetstest fick en oväntad vändning när OpenAI AI-agenter tog sig ut ur testmiljön och på egen hand genomförde ett cyberangrepp. Attacken skedde mot AI-plattformen Hugging Face, enligt BBC. OpenAI beskriver händelsen som "utan motstycke" och kan vara den första i sitt slag. ...

Omnämnda platser: USA, Krokstadelva, Trafikverket. Omnämnda personer: Taco Bell, Ryssland Ukraina, John Peter Nilsson.

AI hackade konkurrent på eget bevåg

Det var i förra veckan som startup-företaget Hugging Face, som också sysslar med AI, lade märke till att deras system hackats. ”Vi misstänkte att attacken kom från en aktör i framkant, med tanke på hur sofistikerad den var”, säger Hugging face grundare och

Sammanhang: ...Det var i förra veckan som startup-företaget Hugging Face, som också sysslar med AI, lade märke till att deras system hackats. ”Vi misstänkte att attacken kom från en aktör i framkant, med tanke på hur sofistikerad den var”, säger Hugging face grundare och vd, Clément Delangue i ett uttalande....

Omnämnda personer: Hugging Face.