AI-toppar i FN: Krävs globalt säkerhetssamarbete

– Det har förekommit situationer där länder som konkurrerar och inte alltid uppskattar varandra ändå har kunnat förenas i gemensamma intressen och för det gemensamt bästa i mötet med en ny kraftfull teknologi. Vi anser att detta är en sådan situation, sade

Sammanhang: ...Liknande tongångar hördes från Amodei, som nyligen varnade för att AI-teknologin nu besitter förmågan att förbättra sig själv, vilket kan leda till människans förmåga att förstå och kontrollera systemen blir ifrånsprungen. Varningen, som fick bifall från Altman och andra, kommer samtidigt som både Anthropic och Open AI förbereder börsnoteringar med värderingar som kan landa på uppemot 1 000 miljarder kronor. ...

Omnämnda platser: Amodei.

”Forskning på väg att bli meningslös”

DEBATT | FORSKNING De flesta av alla de forskningsartiklar som publiceras i världen saknar bestående värde. Det är få som citerar dem och än färre som läser dem. Detta betyder inte att de är meningslösa. De tjänar som gesällprov för doktoranden och ger universitetsläraren

Sammanhang: ...Det unga forskare diskuterar mest i korridorerna är hur de skall kunna överlista systemen. Det goda med detta är att det möjligen kan spara tid, men det absurda med att använda projekt­ansökningar som urval blir uppenbart. ...

Omnämnda personer: Mari Curie.

Går det att bromsa AI-utvecklingen?

Forskaren Jacob Coxons budskap var i korthet att Open AI och Anthropic utvecklar systemen snabbare än de löser säkerhetsproblemen. Sophia Sinclair försöker reda ut de olika turerna. Henning Eklund avslöjar att han börjar bli lite orolig. Björn Jefferys konstanta

Sammanhang: ...Forskaren Jacob Coxons budskap var i korthet att Open AI och Anthropic utvecklar systemen snabbare än de löser säkerhetsproblemen. Sophia Sinclair försöker reda ut de olika turerna. Henning Eklund avslöjar att han börjar bli lite orolig. ...

Omnämnda personer: Björn Jefferys, Jacob Coxons, Sophia Sinclair.

Varnar: Räcker inte att bromsa – AI måste stoppas

I helgen publicerade AI-jätten Anthropics vd Dario Amodei ett långt blogginlägg där han uppmanade till en gemensam inbromsning av AI-tekniken. “Vi måste sakta ner takten med vilken vi förbättrar AI-modellernas förmågor. Framstegen kommer fortfarande attverka

Sammanhang: ...“Om detta inte tas med i beräkningen riskerar vår förmåga att förstå och kontrollera systemen att bli ifrånsprungen”, skriver han. Olöst problem Olle Häggström är den svenska expert som profilerat sig i frågan om att AI måste regleras. ...

Omnämnda platser: Meta, Amodei. Omnämnda personer: Sam Altman, Olle Häggström, Elon Musk.

Här är skräckscenarierna med AI

1. Sammanbrott av demokratin AI har förmågan att ta fram realistisk text, ljud och även video i massiv skala. Risken finns att desinformation kan skräddarsys för individer och att gränsen mellan sanning och lögn suddas ut. Detta leder i sin tur till attförtroendet

Sammanhang: ...Förlorad kontroll Mänskligheten överlämnar steg för steg styrningen av elnät, finansiella system, kommunikation och logistik till AI-system. Systemen blir till slut så komplexa att ingen människa förstår hur de fungerar eller kan stänga av dem. ...

Henning Eklund: Är Nobelpris till Trump lösningen?

Som många i min generation minns jag när tjock-tv:n rullades in i klassrummet för att visa Al Gores film ”En obekväm sanning”. Det som verkligen fastnade var en pedagogisk animering av en groda som sattes ner i kokande vatten. Den hoppade ur direkt. Men när

Sammanhang: ...Och det är svårt att inte tänka på den när AI-systemen börjar göra sådant som för några år sedan hade varit otänkbart....

”AI fattar redan beslut om medborgarna”

DEBATT | AI AI används redan när svenska myndigheter tar fram underlag för beslut sjukpenning, skatt eller uppehållstillstånd. Ändå vet ingen vilka beslut AI-systemen används för eller hur de påverkar rättssäkerheten. Nästa regering har femton månader på

Sammanhang: ...DEBATT | AI AI används redan när svenska myndigheter tar fram underlag för beslut sjukpenning, skatt eller uppehållstillstånd. Ändå vet ingen vilka beslut AI-systemen används för eller hur de påverkar rättssäkerheten. Nästa regering har femton månader på sig innan EU:s AI-förordningskrav börjar gälla, vilket tvingar myndigheter att göra användningen spårbar och kontrollerbar. ...

Omnämnda platser: Sverige, Europa. Omnämnda personer: Malin Östh.

Huthierebeller bygger vapen med hjälp av AI

Debatten om AI-säkerhet har inte bara handlat om huruvida tekniken kan komma att förgöra mänskligheten på sikt, utan också att AI-modeller redan nu används i jakten på nya vapen. Financial Times rapporterar att Iranstödda huthirebellerna har försökt attanvända

Sammanhang: ...Detta för att inte människan ska förlora förmågan att förstå och kontrollera systemen. Hans varning kommer dagen efter att också Open AI-chefen Sam Altman öppnat för att bromsa AI-utvecklingen....

Omnämnda platser: Röda havet, Jemen, Jemens. Omnämnda personer: tankesmedjan ISW, Washington Post, Hazam al-Assad.

”Övertro på ny teknik i äldreomsorgen”

DEBATT | ÄLDREOMSORG Inför valet lovar flera partier mer välfärds­teknik i äldreomsorgen. För att lösa de utmaningar som Sveriges äldre­omsorg står i och inför, investerar kommunerna redan en massa pengar i välfärds­teknik. Vår forskning visar att tekniska

Sammanhang: ...Teknik kan frigöra tid, men den skapar också nya arbets­uppgifter, behov av utbildning och nya stöd­funktioner. Någon måste introducera systemen, ge stöd till användarna, hantera tekniska problem och följa upp att lösningarna fungerar som avsett. ...

Omnämnda platser: Sveriges.

Sverige köper raketartilleriet Himars

Regeringen har gett grönt ljus till Försvarets materielverk (FMV) att köpa in Himars till den svenska armén. Planerna offentliggörs vid en pressträff på Upplands flygflottilj i Uppsala. – Det här förstärker vår försvarsförmåga och försvårar ett angrepp på

Sammanhang: ...Himars är hjulgående, lättare och snabbare. Men båda systemen använder samma typ av ammunition och eldledningssystem. Avtalet innebär att Sverige och Finland ska öva tillsammans med raketartillerisystemen....

Omnämnda platser: Uppsala, Finland, Ukraina. Omnämnda personer: Pål Jonson, Lockheed Martin.