AI-toppar på middag med Trump och Xi

Huang och Altman, som basar över två av världens största AI-företag, står på olika sidor i diskussionen om huruvida AI-utvecklingen bör bromsas. Altman, som förespråkar en nedbromsning, ska dessutom tala inför FN:s säkerhetsråd om frågan i nästa vecka. Nvidia

Sammanhang: ...Altman, som förespråkar en nedbromsning, ska dessutom tala inför FN:s säkerhetsråd om frågan i nästa vecka. Nvidia och Open AI:s respektive chefer Jensen Huang och Sam Altman kommer att delta på en middag […]...

Omnämnda personer: Xi Huang.

De tror faktiskt på AI-apokalypsen

”Jacob har rätt här – vi tror verkligen uppriktigt att AI skulle kunna utrota hela mänskligheten! Personligen tror jag att sannolikheten är >10 % inom det kommande decenniet. Jag tror att Anthropic gör sitt bästa, men vi har ännu ingen plan för att lösa problemet

Sammanhang: ...Bland annat vill han se oberoende utvärderingar, nya regleringar och global koordination på regeringsnivå. Amodei fick snart medhåll av både Open AI:s Sam Altman och Elon Musk – vilket i sig är anmärkningsvärt eftersom samtliga inblandade inte direkt gillar varandra – och plötsligt var frågan om det som kallas ”AI safety” högst på den globala agendan där såväl Donald Trump som EU-kommissionen uttalat sig. ...

Omnämnda platser: Slate, Lesswrong, Amodei. Omnämnda personer: Donald Trump, Elon Musk, Jacob Coxon.

Forskare hackade Open AI med hjälp av Claude

En grupp säkerhetsforskare från Hacktron AI har lyckats ta sig förbi Open AI:s säkerhetssystem och på så sätt fått tillgång till företagets interna filer. Forskarna tog sig in genom att komma över en Open AI-anställds Chat GPT-konto. Det anmärkningsvärda

Sammanhang: ...Det anmärkningsvärda är att forskarna tog hjälp av Claude, en AI-modell från Open AI:s konkurrent Anthropic....

Omnämnda platser: Hacktron.

Entusiast portar Black Ops 2 till Minecraft

Luckey Faraday har portat Call of Duty: Black Ops 2 till Minecraft, rapporterar Tom's Hardware. Spelet kör ”native” i form av en modd via moddladdaren Fabric. Det handlar alltså varken om emulering eller att använda Minecraft som ett slags fönster som visar

Sammanhang: ...Det handlar alltså varken om emulering eller att använda Minecraft som ett slags fönster som visar bilden från spelet när det kör som en vanlig process i värdsystemet. Utvecklaren använde Open AI:s Astra-modell för att porta Black Ops 2 till Java så att spelet kan köra inuti Minecraft, och använder Minecrafts OpenGL-kontext för att rita upp bilden. ...

Omnämnda platser: Minecrafts.

De hackade Open AI med Claude: ”Vi är bara tre killar”

Intrånget utfördes av tre anställda på säkerhetsföretaget Hacktron AI. Forskarna, som deltog i Open AI:s program för säkerhetstester, utnyttjade en bugg i ett bildbibliotek som används till programmet Discourse. Det är en öppen källkods-mjukvara för diskussionsforum

Sammanhang: ...Intrånget utfördes av tre anställda på säkerhetsföretaget Hacktron AI. Forskarna, som deltog i Open AI:s program för säkerhetstester, utnyttjade en bugg i ett bildbibliotek som används till programmet Discourse. ...

Omnämnda platser: Outlook, Wall Street Journal, Kina. Omnämnda personer: Google Drive, Mohan Pedhapati.

Varnar: Räcker inte att bromsa – AI måste stoppas

I helgen publicerade AI-jätten Anthropics vd Dario Amodei ett långt blogginlägg där han uppmanade till en gemensam inbromsning av AI-tekniken. “Vi måste sakta ner takten med vilken vi förbättrar AI-modellernas förmågor. Framstegen kommer fortfarande attverka

Sammanhang: ...Framstegen kommer fortfarande att verka snabba, och vi måste använda tiden vi vinner på ett klokt sätt”, skriver Amodei. I inlägget, som fått stöd av både Open AI:s vd Sam Altman och techmiljardären Elon Musk, pekar Amodei på att AI nu har en “växande förmåga” att utveckla sig självt. ...

Omnämnda platser: Meta, Amodei. Omnämnda personer: Sam Altman, Olle Häggström, Elon Musk.

Zuckerberg och Huang går emot AI-topparna: Vill inte bromsa utvecklingen

Enligt Zuckerberg ligger det i allas intresse att se till att säkerheten fungerar hos de AI-modeller som utvecklas, men att utvecklingen inte behöver bromsas genom branschöverskridande regelverk. ”Vi väntade i flera månader med att lansera Muse (Metas AI-tjänst)

Sammanhang: ...Och om de inte är färdiga att släppas, ska vi vänta och fortsätta testa och vidareutveckla dem tills de är färdiga, säger Huang till CNBC. Annons Uttalandena kommer efter det att Open AI:s och Anthropics chefer, Sam Altman respektive Dario Asmodei, liksom entreprenören och miljardären Elon Musk alla varnat för att AI nu håller på att utvecklas i en fart som medför potentiella risker för mänskligheten....

Omnämnda platser: Metas, X.. Omnämnda personer: Dario Asmodei, Sam Altman.

Topparna går emot konkurrenterna om AI

Enligt Zuckerberg ligger det i allas intresse att se till att säkerheten fungerar hos de AI-modeller som utvecklas, men att utvecklingen inte behöver bromsas genom branschöverskridande regelverk. ”Vi väntade i flera månader med att lansera Muse (Metas AI-tjänst)

Sammanhang: ...Och om de inte är färdiga att släppas, ska vi vänta och fortsätta testa och vidareutveckla dem tills de är färdiga, säger Huang till CNBC. Uttalandena kommer efter det att Open AI:s och Anthropics chefer, Sam Altman respektive Dario Asmodei, liksom entreprenören och miljardären Elon Musk alla varnat för att AI nu håller på att utvecklas i en fart som medför potentiella risker för mänskligheten....

Omnämnda platser: Metas, X.. Omnämnda personer: Sam Altman, Dario Asmodei.

Zuckerberg och Huang säger nej till att sakta ned AI – går emot branschen

Mark Zuckerberg och Jensen Huang, vd för Meta respektive Nvidia, tycker inte att AI-utvecklingen ska bromsas. De går därmed emot sina konkurrenter i frågan. Enligt Zuckerberg ligger det i allas intresse att se till att säkerheten fungerar hos de AI-modeller

Sammanhang: ...Och om de inte är färdiga att släppas, ska vi vänta och fortsätta testa och vidareutveckla dem tills de är färdiga, säger Huang till CNBC. Uttalandena kommer efter det att Open AI:s och Anthropics chefer, Sam Altman respektive Dario Asmodei, liksom entreprenören och miljardären Elon Musk alla varnat för att AI nu håller på att utvecklas i en fart som medför potentiella risker för mänsligheten....

Omnämnda platser: Metas, X.. Omnämnda personer: Mark Zuckerberg, Dario Asmodei, Sam Altman.