Går det att bromsa AI-utvecklingen?

Forskaren Jacob Coxons budskap var i korthet att Open AI och Anthropic utvecklar systemen snabbare än de löser säkerhetsproblemen. Sophia Sinclair försöker reda ut de olika turerna. Henning Eklund avslöjar att han börjar bli lite orolig. Björn Jefferys konstanta

Sammanhang: ...Forskaren Jacob Coxons budskap var i korthet att Open AI och Anthropic utvecklar systemen snabbare än de löser säkerhetsproblemen. Sophia Sinclair försöker reda ut de olika turerna. ...

Omnämnda personer: Björn Jefferys, Jacob Coxons, Sophia Sinclair.

Björn Jeffery: Inte en börs i världen går säker

Vi måste bromsa, säger mannen med foten på gaspedalen. Ungefär så låter det när Anthropics vd Dario Amodei varnar för att AI-tekniken är på väg i en farlig riktning. Men i helgen fick han medhåll av både Elon Musk och Sam Altman. Gemensamt säger de allaatt

Omnämnda personer: Elon Musk, Sam Altman.

AI-oro får börserna att skaka – Nvidia faller

AI-boomen har utlöst investeringar på hundratals miljarder i chip och datacenter. Men på måndagen föll flera av bolagen som tjänat mest på utbyggnaden. Detta efter nya krav på att bromsa utvecklingen av de mest avancerade AI-modellerna. Bakgrunden är ett

Sammanhang: ...Open AI:s vd Sam Altman skrev att han höll med, och lovade att Open AI ska ge oberoende granskare långtgående tillgång till bolagets modeller. Elon Musk skrev kort: ”Dario har rätt”. ...

Omnämnda platser: Ipek Ozkardeskaya, Alphabet, Europa. Omnämnda personer: Sam Altman, D.A. Davidson, Gil Luria.

Huthierebeller bygger vapen med hjälp av AI

Debatten om AI-säkerhet har inte bara handlat om huruvida tekniken kan komma att förgöra mänskligheten på sikt, utan också att AI-modeller redan nu används i jakten på nya vapen. Financial Times rapporterar att Iranstödda huthirebellerna har försökt attanvända

Sammanhang: ...Detta för att inte människan ska förlora förmågan att förstå och kontrollera systemen. Hans varning kommer dagen efter att också Open AI-chefen Sam Altman öppnat för att bromsa AI-utvecklingen....

Omnämnda platser: Röda havet, Jemen, Jemens. Omnämnda personer: tankesmedjan ISW, Washington Post, Hazam al-Assad.

Anthropics vd: AI-utvecklingen bör bromsas

”Vi måste sakta ner farten med vilken vi förbättrar AI-modellernas förmågor. Utvecklingen kommer fortfarande att upplevas som snabb, och vi måste använda tiden vi vinner på ett förnuftigt vis”, heter det i inlägget, enligt CNN. Enligt Amodei har utvecklingen

Sammanhang: ...Enligt Amodei har utvecklingen de senaste månaderna gått ”betydligt fortare” och AI-teknologin besitter nu förmågan att förbättra sig själv. ”Om detta inte tas med i beräkningen kan det innebära att vår förmåga att förstå och kontrollera dessa system blir ifrånsprungen och måste därför hanteras med försiktighet, om alls”, skriver han vidare. Inlägget kommer dagen efter det att Open AI-chefen Sam Altman vid ett internt möte öppnat för att bromsa AI-utvecklingen. AI-forskaren Jacob Coxon, som nyligen hoppat av Anthropic i protest och tidigare även jobbat på konkurrenten Open AI, anser att ingen av de båda AI-jättarna agerar ansvarsfullt. ”De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut”, skrev han nyligen på X....

Omnämnda platser: Amodei, X.. Omnämnda personer: Jacob Coxon, Sam Altman.

Löste 90-årig gåta – forskare kräver svar

Open AI uppger att bolaget har löst det nästan sekelgamla Navier–Stokes-problemet, som är ett av de sju millennieproblemen, framtaget av matematikorganisationen Clay Mathematics Institute. Vid lösning av ett av de sju problemen tillkommer en vinstsumma på

Sammanhang: ...Ny kraftfullare Open AI I redovisningen uppgav Open AI att det inte går att utesluta att data från forskarnas användning av deras AI-tjänster kan ha bidragit till att förbättra modellerna, skriver The Guardian. ...

Omnämnda platser: New. Omnämnda personer: Clay Mathematics Institute, Tristan Buckmaster, Yorks University.

Stoppas – men attacken fortsätter: ”Haveri”

Microsofts antivirusprogram säger stopp. AI-agentens verktyg sätts i karantän. Men den ger inte upp. Några sekunder senare har den hittat en väg runt hindret – och fortsätter angreppet. Marcus Murray, grundare av cybersäkerhetsbolaget Truesec, följer det

Omnämnda platser: Microsofts.

AI-forskare säger upp sig: ”Kan döda oss alla”

Jacob Coxon publicerade under onsdagen en rad inlägg på X där han förklarar sitt beslut att lämna AI-jätten. Han skriver att han ägnat de tre senaste åren åt AI-forskning för både Anthropic och konkurrenten Open AI. Under den tiden uppger han sig ha förstått

Sammanhang: ...Han skriver att han ägnat de tre senaste åren åt AI-forskning för både Anthropic och konkurrenten Open AI. Under den tiden uppger han sig ha förstått att inget av bolagen agerar ansvarsfullt och fokuserar mer på att vinna den globala AI-kapplöpningen än att ta säkerhetsriskerna på allvar....

Omnämnda personer: Jacob Coxon.

AI-forskare varnar: "Skulle kunna döda oss alla"

Jacob Coxon, som tidigare även jobbat på konkurrenten Open AI, anser att ingen av de båda AI-jättarna agerar ansvarsfullt. ”De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut”, skriver han på X. ”Skulle kunnadöda

Sammanhang: ...Manar till försiktighet AI-branschen har skakats av flera incidenter den senaste tiden där AI-modeller uppges ha ”rymt” från sina testmiljöer. Open AI stoppade tillfälligt träningen av sina senaste modeller under två veckor i augusti innan de återupptog den under striktare kontroller. ...

Omnämnda personer: Evan Hubinger.

Open AI lanserar GPT

Open AI lanserar GPT

Sammanhang: ...Open AI lanserar GPT...