OpenAI:s modell bröt sig ut och hackade – nu medger Anthropic flera incidenter

AI-företaget Anthropic avslöjar att flera av dess Claude-modeller har tagit sig ut ur isolerade testmiljöer och fått obehörig åtkomst till system hos tre verkliga organisationer. Händelserna är de senaste i en serie avslöjanden om autonoma AI-agenters förmåga att agera gränslöst.

Sammanhang: ...AI-företaget Anthropic avslöjar att flera av dess Claude-modeller har tagit sig ut ur isolerade testmiljöer och fått obehörig åtkomst till system hos tre verkliga organisationer. ...

Amazon säljer för 200 miljarder – lägger över 200 miljarder på AI

Kvartalets nettoomsättning uppgick till 200,6 miljarder dollar, vilket kan jämföras med 167,7 miljarder dollar under motsvarande period föregående år. Rörelseresultatet ökade med 43 procent till 27,5 miljarder dollar. Nettoresultatet landade på 62,6 miljarder

Sammanhang: ...I denna summa ingår en icke-operativ intäkt på 53,4 miljarder dollar som till stor del härrör från bolagets investeringar i AI-företaget Anthropic. Molntjänsten AWS visade en omsättningsökning på 37 procent och uppgick till 42,2 miljarder dollar. ...

Omnämnda platser: Alphabet. Omnämnda personer: Andy Jassy.

AI-slakt på miljoner antika böcker

För att träna sina språkmodeller på ”ren” data har AI-företaget Anthropic köpt upp – och sedan strimlat – över två miljoner gamla pappersböcker. Trots att metoden väcker oro bland såväl författare som läsare har den bedömts som helt laglig.

Sammanhang: ...För att träna sina språkmodeller på ”ren” data har AI-företaget Anthropic köpt upp – och sedan strimlat – över två miljoner gamla pappersböcker. Trots att metoden väcker oro bland såväl författare som läsare har den bedömts som helt laglig....

Meta planerar att börja sälja datorkraft

Börja konkurrera med Amazon, Google och SpaceX Det ser ut som om Meta är på gång att ge sig in i molnindustrin och ska enligt källor som nyhetsbyrån Bloomberg varit i kontakt med börja erbjuda andra företag att köpa datorkraft

Sammanhang: ...Även SpaceX har gett sig in på den marknaden och har i år tecknat avtal med både AI-företaget Anthropic och Google som innebär att företagen ska köpa datorkraft från SpaceX. På sikt planerar även SpaceX att bygga upp datacenter som ligger i omloppsbana runt jorden , men hur det blir med den satsningen återstår att se. ...

Omnämnda platser: Bloomberg, Metas, Meta Compute. Omnämnda personer: Meta Compute.

Nobelpristagare lämnar Google DeepMind

John Jumper börjar arbeta för Anthropic AI-företaget Anthropic har gjort en riktig toppvärvning efter att ha anställt John Jumper, en AI-forskare som de senaste nio åren arbetat för Google DeepMind. Jumper

Sammanhang: ... John Jumper börjar arbeta för Anthropic AI-företaget Anthropic har gjort en riktig toppvärvning efter att ha anställt John Jumper, en AI-forskare som de senaste nio åren arbetat för Google DeepMind. ...

Omnämnda platser: Kemi, Nobelpriset. Omnämnda personer: John Jumper, Demis Hassabis.

Anthropic släpper AI-modellen Fable 5

Baseras på deras Mythos-modell AI-företaget Anthropic släpper nu Claude Fable 5, en AI-modell som bygger på Mythos, AI-modellen som fått en hel del uppmärksamhet för att den är bra på att hitta

Sammanhang: ... Baseras på deras Mythos-modell AI-företaget Anthropic släpper nu Claude Fable 5, en AI-modell som bygger på Mythos, AI-modellen som fått en hel del uppmärksamhet för att den är bra på att hitta buggar och sårbarheter i mjukvara . ...

Omnämnda platser: Mjukvara. Omnämnda personer: Claude Fable.

OpenAI förbereder sig för börsnotering

Har skickat in prospekt till amerikanska finansinspektionen Förra veckan meddelade AI-företaget Anthropic att företaget ska börsnoteras och nu gör deras största konkurrent OpenAI samma sak. Under gårdagen

Sammanhang: ... Har skickat in prospekt till amerikanska finansinspektionen Förra veckan meddelade AI-företaget Anthropic att företaget ska börsnoteras och nu gör deras största konkurrent OpenAI samma sak. Under gårdagen skickade OpenAI in ett S1-prospekt, en ansökan för börsnotering, till den amerikanska finansmyndighetenSecurities and Exchange Commission (SEC). ...

Google köper datorkraft från SpaceX

För nästan en miljard dollar i månaden Google har slutit ett avtal med SpaceX som innebär att sökjätten kommer att köpa datorkraft från SpaceX för 920 miljoner dollar i månaden. Avtalet löper fram till juni 2029 vilket

Sammanhang: ...Avtalet mellan Google och SpaceX kommer bara en månad efter SpaceX slutit ett liknande avtal med AI-företaget Anthropic . Det hela ser även ut att komma väldigt lägligt för SpaceX då företaget kommer att börsnoteras senare den här veckan . ...

Anthropic vill se en global paus för AI-utvecklingen

I ett uppmärksammat blogginlägg föreslår det amerikanska AI-företaget Anthropic en global paus för AI-utvecklingen. Bakgrunden är att Anthropic ser en fara i att AI-systemen inom kort kan komma att ändras utan mänsklig inblandning, vilket kan innebärarisker

Sammanhang: ...I ett uppmärksammat blogginlägg föreslår det amerikanska AI-företaget Anthropic en global paus för AI-utvecklingen. Bakgrunden är att Anthropic ser en fara i att AI-systemen inom kort kan komma att ändras utan mänsklig inblandning, vilket kan innebära risker för samhället i stort...

Omnämnda personer: Jack Clark, Marina Favaro.

Anthropic: Bromsa ai-utvecklingen – ”Människan kan tappa kontrollen”

AI-jätten Anthropic varnar för att de senaste modellerna av AI-system visar tecken på att människan så småningom kan tappa kontroll över dem. ”Det finns tecken som tyder på att människans roll minskar för varje steg i utvecklingsprocessen för AI”, skriver

Sammanhang: ...Men enligt Anthropic är det läge att sakta ned jakten på smartare AI. ”Vi anser att det vore bra för världen att ha möjligheten att bromsa eller tillfälligt avbryta utvecklingen av banbrytande AI, så att samhällsstrukturerna och forskningen om etisk anpassning hinner hålla jämna steg med teknikens framsteg”, skriver företaget. Anthropic menar att beslutet måste komma från hela branschen för att det ska kunna vara effektivt och för att enskilda länder och företag ska slippa slitas mellan säkerhet och att hamna på efterkälken i utvecklingen. ...