AI-företagen bör lära sig om säkerhet av kärnvapnens historia

En AI-modell som byggts av det amerikanska teknikföretaget Open AI har hackat sig in i Australiens sjukförsäkringssystem Medicare. Nyheten, som kom den 23 september, följer på en rad liknande incidenter under sommaren med koppling till Open AI och dess främsta

Sammanhang: ...Nyheten, som kom den 23 september, följer på en rad liknande incidenter under sommaren med koppling till Open AI och dess främsta konkurrent Anthropic. Rapporterna har understrukit farhågorna om att AI-laboratorier kan vara på väg att förlora kontrollen över sina skapelser. ...

Omnämnda platser: Titan, New Mexico, Kina. Omnämnda personer: Sam Altman, Harry Daghlian, Alvin Graves.

Kontroverserna som kantar Open AI:s genombrott i matte

Nyligen gick det amerikanska företaget Open AI ut med att man hade löst ett av de så kallade Millennieproblemen, Navier-Stokes, med hjälp av AI. Millennieproblemen valdes ut år 2000 som särskilt svåra matematiska utmaningar för det nya århundradet, var och

Sammanhang: ...Open AI började arbeta på problemet efter att man hört ryktas att just Anthropic, deras största konkurrent, skulle vara nära att lösa ett av Millennieproblemen. Strax innan Open AI annonserade sitt bevis dök det upp en text av matematikern Tristan Buckmaster, som arbetat på just Navier-Stokes tillsammans med den Anthropic-anställde matematikern Levent Alpöge. ...

Omnämnda platser: Deepminds Alphaproof, Millennieproblem. Omnämnda personer: Tristan Buckmaster, Luis Martínez-Zoroa, Diego Córdoba.

AI-genombrott kan försämra förståelsen för matematik

Sedan 1934 har matematiker och fysiker frågat sig om flöden i vätskor beskrivs på rätt sätt med hjälp av så kallade Navier–Stokes-ekvationer. När företaget Open AI i veckan publicerade ett bevis för att de inte alltid gör det jublade matematiker världen över,

Sammanhang: ...Lösningen tillkännagavs bara dagar efter det att det konkurrerande AI-företaget Anthropic meddelat att de med AI gjort en logisk formalisering av ett annat klassiskt matematiskt problem, nämligen det bevis på Fermats stora sats som matematikern Andrew Wiles hittade 1995 efter 358 år. ...

Omnämnda platser: Doktoranders, Göteborg, New York. Omnämnda personer: Svante Linusson, Daniel Persson.

”AI-utvecklingens energikostnad är ohållbar”

De generella AI-modeller som används dagligen har en oacceptabel miljökostnad. Vi måste börja använda AI mer ändamålsenligt, skriver forskaren Adam Wickberg. Trycket att snabbt implementera AI växer på alla fronter. Storbritanniens tidigare finansminister

Sammanhang: ...Uppmaningen till de miljontals människor som läst hans inlägg är att skaffa sig en betald prenumeration hos Open AI och Anthropic och snabbt börja använda teknologin så mycket som möjligt. Shumers virala inlägg förstärker budskapet från en essä skriven av Anthropics vd Dario Amodei veckan innan, kallad The adolescence of technology. ...

Omnämnda platser: Silicon, USA. Omnämnda personer: Chat GPT, Adam Wickberg, Anthropics Claude.

AI-bråket inför Iran-attackerna utmanar principen om etisk militär AI

För bara några år sedan formulerades principer för ansvarsfull militär AI. Nu skiftar spelreglerna snabbt. Forskaren Bianca Baggiarini visar hur bråket mellan Pentagon, Anthropic och Trump väcker frågan: Vad händer med idén om ”etisk AI” i krig? Inför helgens

Sammanhang: ...Forskaren Bianca Baggiarini visar hur bråket mellan Pentagon, Anthropic och Trump väcker frågan: Vad händer med idén om ”etisk AI” i krig? Inför helgens amerikanska och israeliska attacker mot Iran var USA:s försvarsdepartement Pentagon involverat i spända förhandlingar med AI-bolaget Anthropic om exakt hur Pentagon får använda företagets teknik. ...

Omnämnda platser: Silicon, Ryssland, Indien. Omnämnda personer: Sam Altman, Joe Lonsdale, Anthropics teknik.

AI kan styra vem du röstar på

Två nya studier i Science och Nature visar hur mycket AI-chattar kan påverka politiskt. ”Farhågorna om AI som ett verktyg för att påverka opinionen är inte hypotetiska längre”, säger svensk AI-forskare. Inför presidentvalet i USA 2024 och de nationella valen

Sammanhang: ...Han är något mindre oroad över att de stora amerikanska techbolagen – som Open AI, Google eller Anthropic – skulle försöka göra sina språkmodeller till verktyg för tydligt riktad politisk manipulation, eftersom det då skulle kräva att de så uppenbart valde politisk sida...

Omnämnda platser: Modellerna, Polen, Kanada. Omnämnda personer: Donald Trump, Markus Naarttijärvi, Kamala Harris.