”Ja – Sverige bör inrätta ett institut för ai-säkerhet”

I juli nåddes vi av nyheten att Open AI under testningen av en ai-modell ovetandes tappade kontrollen över denna, som olovligen lämnade sin sandlåda, tog sig ut på internet och hackade sig in hos ai-företaget Hugging Face i jakt på facit till testfrågorna.

Sammanhang: ...Nästan allt som har kommit fram därefter har förvärrat bilden, och från både Anthropic och Meta rapporteras liknande tilltag från deras modeller. Det inträffade är det tydligaste konkreta exemplet hittills på något vi ai-riskforskare varnat för i åratal: att tillräckligt avancerade ai-modeller kan undslippa vår kontroll och ta till extrema åtgärder för att lösa till synes harmlösa uppgifter. ...

Omnämnda platser: Sverige, USA, Amodei. Omnämnda personer: Senator Bernie Sanders, Niels Paarup-Petersen, Svante Linusson.

Centerpartiet: ”Låt inte Trump bestämma vilken AI som är säker”

För några veckor sedan publicerade Demis Hassabis, Nobelpristagare och vd för Google Deepmind, ett förslag som bör tas på allvar: ett oberoende organ, finansierat av amerikanska ai-bolag, under federal tillsyn och beståendes av forskare och experter som ska

Sammanhang: ...Om USA ensamt bestämmer blir Europa regeltagare. Trumpadministrationen förbjöd nyligen Anthropic från att låta icke-amerikaner använda deras senaste modell. Det är ett tydligt bevis på att det måste vara internationell standardisering, annars kommer det som Hassabis beskriver som oreglerad kapplöpning mellan länder bara fortsätta. ...

Omnämnda platser: Storbritannien, Sydkorea, USA. Omnämnda personer: Dario Amodei, Life Science, Demis Hassabis.

EU:s AI-lag: Nu ska du kunna se om du pratar med en AI

I dag träder nya delar av EU:s AI act i kraft. Det är ett paket med lagar, riktlinjer och förhållningssätt som bland annat ska göra det lättare för enskilda att förstå om de interagerar med en AI-tjänst. Paketet, det första rejäla i sitt slag, är dock stort

Sammanhang: ...Frivillighet och böter Delar av AI act bygger på frivillighet och en ”uppförandekod”, där många av världens största techbolag redan sagt att de tänker följa riktlinjerna – bland annat Google, Amazon, Microsoft, Open AI och Anthropic. Elon Musks X har dock bara gått med på säkerhetsdelen av ”koden” och Meta (Facebook och Instagram) har hittills inte skrivit under alls. ...

Omnämnda platser: USA:s. Omnämnda personer: Donald Trump.

”Dela” blev ”publicera” – så hamnade privata Claude-chattar på Google

När användare chattade med Claude och sedan klickade på ”dela” sparades länken av sökmotorer som Google. Det ledde till att samtalen, som i vissa fall innehöll personlig information och interna arbetsdokument, dök upp i andra användares sökningar. Över helgen

Sammanhang: ...Upptäcktes av användare på Reddit En taleskvinna för Anthropic säger att Claude-användare hade kontroll över om och när konversationer med chattboten skulle delas. ...

Omnämnda personer: Henk van, Chat GPT, Tobias Judin.

Bedömare efter ai-modellen Kimi K3: Kina ligger inte långt efter längre

Bedömare jämför lanseringen av den ny ai-modell Kimi K3 från kinesiska företaget Moonshot med Deepseek-genombrottet 2025. Omvärlden kunde då konstatera att Kinas ai-satsningar gick snabbt framåt trots teknikrestriktioner från USA. Ai-startupen Moonshotsnya

Sammanhang: ...Kimi K3 görs tillgänglig som en öppen modell. Det kan sätta press på amerikanska bolag som Anthropic och Open AI, vars mest avancerade system är stängda och ofta dyrare att använda. Samtidigt fortsätter amerikanska bolag att dominera i de mest komplexa tillämpningarna. ...

Omnämnda platser: Kina, USA.

200 forskare i upprop: ”AI förändrar ekonomin rekordsnabbt”

Ai:s makt kan förstärkas radikalt det kommande decenniet, något som beslutsfattare nu snabbt måste agera för att bemöta. Varningen kommer från nära 200 forskare inom bland annat ekonomi och politik, däribland Nobelpristagare som Daron Acemoglu och SimonJohnson

Sammanhang: ...I åratal har ledare för techindustrin själva varnat för att ai i takt med sin egen utveckling snabbt kan ta över mänskligt arbete och leda till utbredd arbetslöshet, enligt uppropet, som även undertecknats av Jack Clark, medgrundaren till Anthropic. ”Större än den industriella revolutionen” I uppropet lyfter undertecknarna fram tre punkter: Annons Ai kan bli radikalt kraftfullare under de kommande tio åren. ...

Omnämnda platser: New York Times. Omnämnda personer: Simon Johnson, Daron Acemoglu, Jack Clark.

Ultimatum på 90 minuter: Därför tvingades Anthropic stänga Fable 5

Ett ultimatum, en febril helg av förhandlingar och en avstängd toppmodell. Så såg spelet bakom striden om Fable 5 ut. ”Claude Fable 5 is currently unavailable. Please use Opus 4.8 or another model.” Du som van användare av ai-verktyget Claude känner igen

Sammanhang: ...Bakgrunden är en rapport om att skyddsspärrarna i Fable 5 gått att runda. Anthropic beskriver det som en liten sårbarhet och hävdar att samma förmåga finns i konkurrerande modeller, däribland Open AI:s GPT-5.5. ...

Omnämnda platser: Kina, Slog, Peking. Omnämnda personer: Dario Amodei, Claude Fable, Donald Trump.

Space X-noteringen störst i historien – värderas till 1,8 biljoner dollar

Fredagens börsintroduktion av Space X blir med råge den största genom tiderna. I torsdagskväll bekräftade rymdbolaget att introduktionskursen landar på 135 dollar per aktie. Och suget efter aktien är betydligt större än de aktier som finns att köpa. Världens

Sammanhang: ...Omräknat till kronor – på kursen 9,53 kronor per dollar – blir det nästan 17,2 biljoner kronor. Open AI och Anthropic på väg Annons Värderingen ligger därmed på 92 gånger bolagets intäkter, enligt tidningen Financial Times. ...

Omnämnda platser: Broadcom, Värderingen, Nasdaqbörsen. Omnämnda personer: Elon Musks, Space X.

Priskrig bland AI-bolagen? Open AI överväger kraftiga sänkningar

Open AI överväger att sänka priserna kraftigt på sina AI-tjänster för att möta ökad konkurrens från rivalen Anthropic, enligt uppgifter till Wall Street Journal. Diskussionerna gäller kostnaden för så kallade tokens, den enhet som används för att debitera

Sammanhang: ...Open AI lämnade tidigare i veckan in en konfidentiell ansökan om börsnotering, kort efter att Anthropic gjort detsamma....

Omnämnda personer: Claude Code.

Anthropic: Bromsa ai-utvecklingen – ”Människan kan tappa kontrollen”

AI-jätten Anthropic varnar för att de senaste modellerna av AI-system visar tecken på att människan så småningom kan tappa kontroll över dem. ”Det finns tecken som tyder på att människans roll minskar för varje steg i utvecklingsprocessen för AI”, skriver

Sammanhang: ...Anthropic är ett av de största AI-företagen, vars olika typer av chattboten Claude finns hos företag världen över. ...