Ai-dominanternas drag: Gemensamma standarder för ai-säkerhet

Techbolagen Google, Open AI och Anthropic arbetar med att skapa ett gemensamt standardiseringsorgan med fokus på ai-säkerhet, utan statlig tillsyn. Det rapporterar tidningen The Information med hänvisning till personer med insyn. Planen är att organisationen

Sammanhang: ...Techbolagen Google, Open AI och Anthropic arbetar med att skapa ett gemensamt standardiseringsorgan med fokus på ai-säkerhet, utan statlig tillsyn. ...

Omnämnda platser: Trumpadministrationen. Omnämnda personer: Techbolagen Google.

”Sverige måste ställa krav på datacentren – och satsa på fysisk ai”

Facebook, Microsoft och flera stora molnbolag bygger just nu enorma datacenteranläggningar i Norden. Sverige och grannländerna erbjuder billig, grön el och ett svalt klimat som sänker kylkostnaderna för de servrar som tränar och kör världens mest kraftfulla

Sammanhang: ...Vi diskuterar gärna om EU borde bygga en egen frontier-modell för att konkurrera med Open AI, Anthropic och de kinesiska labben, men verkligheten är att det loppet redan är svårt förlorat. De ledande amerikanska och kinesiska aktörerna har ett försprång i kapital, kompetens och tillgång till avancerade ai-chip som är extremt svårt att hämta in, oavsett hur mycket pengar vi skjuter till Mistral eller ett nytt europeiskt initiativ. ...

Omnämnda platser: Sverige, Kina, Kaffet. Omnämnda personer: Charlotte Rosenquist, Marcus Weiland.

Öppen AI ska stärka Kina – så länge regimen inte ser den som ett hot

Annons Logga in här Prova Ny Teknik – 149 kr 3 månader Tillgång till alla låsta artiklar, fördjupande kompendier, premiumnyhetsbrev, samt e-tidningen. Kom igång nu → Förnyas till 299 kr/mån efter din provperiod. Ingen bindningstid. Avsluta enkelt.Gäller

Sammanhang: ...Det hävdar USA:s ledare Donald Trump – och går samtidigt till angrepp mot Anthropic-chefen Dario Amodei. ”Spelar med våra liv” – därför fruktar AI-forskarna tekniken En skarp varning från en avhoppande Anthropic-forskare har väckt ny ai-oro. ...

Omnämnda platser: Sveriges, Brasilien, Chipjättens. Omnämnda personer: Elon Musk, Iphone Duo, Andrew Tulloch.

AI-modell skrev om sina egna regler – nu slår Open AI larm

Open AI har identifierat sex tidigare orapporterade fall där bolagets ai-modeller agerat i strid med avsedda instruktioner och inför nu ett ramverk för att offentliggöra sådana incidenter. Fallen inträffade mellan oktober 2025 och juli i år och omfattadebland

Sammanhang: ...Ai-forskaren Jacob Coxon, tidigare anställd hos Anthropic, har anklagat sin tidigare arbetsgivare samt Open AI för att agera vårdslöst och att de ”spelar med våra liv som insats”....

Omnämnda personer: Jacob Coxon.

AI-forskaren hoppade av i protest: ”Tekniken skulle kunna döda oss alla”

Jacob Coxon, som tidigare även jobbat på konkurrenten Open AI, anser att ingen av de båda AI-jättarna agerar ansvarsfullt. ”De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut", skriver han på X. ”Skulle kunnadöda

Sammanhang: ...Han lägger till att han personligen tror att risken är ”större än tio procent” och att det sker redan inom det närmaste decenniet. Hubinger skriver att han anser att Anthropic gör sitt bästa, men att företaget ännu inte har någon plan för att säkerställa att ett AI-system som överträffar mänsklig förmåga skulle lyda sina skapare. ...

Omnämnda personer: Evan Hubinger, Jacob Coxon.

”Politiker som tar ai-utvecklingen på allvar kan framstå som en tok”

Ta del av Ny Tekniks unika valspecial om ai-politik här Svenska partier älskar att tala om testbäddar. Inget är lika svenskt – inte ens fika, köttbullar eller Emil i Lönneberga – som att dra igång ett pilotprojekt med slutredovisning om fyra år. Om fyra

Sammanhang: ...Därifrån infiltrerade agenterna dataplattformen Hugging Face och levde rövare så till den grad att Hugging Face – när allt uppdagades – tvingades bygga om en central del av systemet från grunden. Och under sommaren har Anthropic begränsat åtkomsten till sina mest avancerade modeller med hänvisning till bio- och cybersäkerhet. ...

Omnämnda platser: USA, Kina, Lönneberga. Omnämnda personer: François Chollet.

”Tro på dig själv” – då gjorde Claude framsteg i klassiskt matteproblem

Sedan 1859 har världens matematiker brottats med att bevisa eller motbevisa Bernhard Riemanns hypotes om primtal. Nu har AI-modellen Claude kommit en bit på vägen – trots att den själv tvivlade. Utvecklaren Jarred Sumner på amerikanska Anthropic, som ligger

Sammanhang: ...Nu har AI-modellen Claude kommit en bit på vägen – trots att den själv tvivlade. Utvecklaren Jarred Sumner på amerikanska Anthropic, som ligger bakom Claude, bad modellen att göra ett försök. Den testade 650 idéer. Inte helt oväntat misslyckades den. ...

Omnämnda personer: Jarred Sumner, Steve Dahlskog, Bernhard Riemanns.

”Ja – Sverige bör inrätta ett institut för ai-säkerhet”

I juli nåddes vi av nyheten att Open AI under testningen av en ai-modell ovetandes tappade kontrollen över denna, som olovligen lämnade sin sandlåda, tog sig ut på internet och hackade sig in hos ai-företaget Hugging Face i jakt på facit till testfrågorna.

Sammanhang: ...Nästan allt som har kommit fram därefter har förvärrat bilden, och från både Anthropic och Meta rapporteras liknande tilltag från deras modeller. Det inträffade är det tydligaste konkreta exemplet hittills på något vi ai-riskforskare varnat för i åratal: att tillräckligt avancerade ai-modeller kan undslippa vår kontroll och ta till extrema åtgärder för att lösa till synes harmlösa uppgifter. ...

Omnämnda platser: Sverige, USA, Amodei. Omnämnda personer: Senator Bernie Sanders, Niels Paarup-Petersen, Svante Linusson.

Centerpartiet: ”Låt inte Trump bestämma vilken AI som är säker”

För några veckor sedan publicerade Demis Hassabis, Nobelpristagare och vd för Google Deepmind, ett förslag som bör tas på allvar: ett oberoende organ, finansierat av amerikanska ai-bolag, under federal tillsyn och beståendes av forskare och experter som ska

Sammanhang: ...Om USA ensamt bestämmer blir Europa regeltagare. Trumpadministrationen förbjöd nyligen Anthropic från att låta icke-amerikaner använda deras senaste modell. Det är ett tydligt bevis på att det måste vara internationell standardisering, annars kommer det som Hassabis beskriver som oreglerad kapplöpning mellan länder bara fortsätta. ...

Omnämnda platser: Storbritannien, Sydkorea, USA. Omnämnda personer: Dario Amodei, Life Science, Demis Hassabis.

EU:s AI-lag: Nu ska du kunna se om du pratar med en AI

I dag träder nya delar av EU:s AI act i kraft. Det är ett paket med lagar, riktlinjer och förhållningssätt som bland annat ska göra det lättare för enskilda att förstå om de interagerar med en AI-tjänst. Paketet, det första rejäla i sitt slag, är dock stort

Sammanhang: ...Frivillighet och böter Delar av AI act bygger på frivillighet och en ”uppförandekod”, där många av världens största techbolag redan sagt att de tänker följa riktlinjerna – bland annat Google, Amazon, Microsoft, Open AI och Anthropic. Elon Musks X har dock bara gått med på säkerhetsdelen av ”koden” och Meta (Facebook och Instagram) har hittills inte skrivit under alls. ...

Omnämnda platser: USA:s. Omnämnda personer: Donald Trump.