De tror faktiskt på AI-apokalypsen

”Jacob har rätt här – vi tror verkligen uppriktigt att AI skulle kunna utrota hela mänskligheten! Personligen tror jag att sannolikheten är >10 % inom det kommande decenniet. Jag tror att Anthropic gör sitt bästa, men vi har ännu ingen plan för att lösa problemet

Sammanhang: ...Personligen tror jag att sannolikheten är >10 % inom det kommande decenniet. Jag tror att Anthropic gör sitt bästa, men vi har ännu ingen plan för att lösa problemet med alignment för superintelligens och är inte tydligt på väg att göra det”, skrev Evan Hubinger, som leder Anthropics alignment-forskning. ...

Omnämnda platser: Slate, Lesswrong, Amodei. Omnämnda personer: Donald Trump, Elon Musk, Jacob Coxon.

Forskare hackade Open AI med hjälp av Claude

En grupp säkerhetsforskare från Hacktron AI har lyckats ta sig förbi Open AI:s säkerhetssystem och på så sätt fått tillgång till företagets interna filer. Forskarna tog sig in genom att komma över en Open AI-anställds Chat GPT-konto. Det anmärkningsvärda

Sammanhang: ...Det anmärkningsvärda är att forskarna tog hjälp av Claude, en AI-modell från Open AI:s konkurrent Anthropic....

Omnämnda platser: Hacktron.

Hackade OpenAI – med värsta rivalen Anthropics verktyg

En liten grupp cybersäkerhetsexperter lyckades ta sig in i Openais system – och de gjorde det med hjälp av ett verktyg från ärkerivalen Anthropic. Belöningen: 6.500 dollar.

Sammanhang: ...En liten grupp cybersäkerhetsexperter lyckades ta sig in i Openais system – och de gjorde det med hjälp av ett verktyg från ärkerivalen Anthropic. Belöningen: 6.500 dollar....

Omnämnda platser: Openais.

Anthropic nära AI

Anthropic nära AI

Sammanhang: ...Anthropic nära AI...

Utredare använde Anthropic för att hacka Open AI

Anställda på ett säkerhetsföretag använde program från AI-jätten Anthropic för att hacka konkurrenten Open AI. Det rapporterar Financial Times.

Sammanhang: ...Anställda på ett säkerhetsföretag använde program från AI-jätten Anthropic för att hacka konkurrenten Open AI. Det rapporterar Financial Times....

”Företag producerar AI. Regeringars plikt är att ta ansvar.”

Dario Amodei, vd för datajätten Anthropic, vill bromsa utvecklingen av nya AI-modeller tills utvecklarna med rimlig säkerhet kan garantera att de kan kontrollera dem. Hans 3 850 ord långa uppmaning att sänka takten när det gäller banbrytande AI-teknik, kommer

Sammanhang: ...Dario Amodei, vd för datajätten Anthropic, vill bromsa utvecklingen av nya AI-modeller tills utvecklarna med rimlig säkerhet kan garantera att de kan kontrollera dem. ...

Omnämnda platser: Amodei, Annons, USA. Omnämnda personer: Sam Altman, Stuart Russell, Demis Hassabis.

Öppen AI ska stärka Kina – så länge regimen inte ser den som ett hot

Annons Logga in här Prova Ny Teknik – 149 kr 3 månader Tillgång till alla låsta artiklar, fördjupande kompendier, premiumnyhetsbrev, samt e-tidningen. Kom igång nu → Förnyas till 299 kr/mån efter din provperiod. Ingen bindningstid. Avsluta enkelt.Gäller

Sammanhang: ...Det hävdar USA:s ledare Donald Trump – och går samtidigt till angrepp mot Anthropic-chefen Dario Amodei. ”Spelar med våra liv” – därför fruktar AI-forskarna tekniken En skarp varning från en avhoppande Anthropic-forskare har väckt ny ai-oro. ...

Omnämnda platser: Sveriges, Brasilien, Chipjättens. Omnämnda personer: Elon Musk, Iphone Duo, Andrew Tulloch.

Anthropic gör om gränssnittet i Claude – samlar Chat och Cowork i ett fönster

Anthropic har bestämt sig för att stuva om i gränssnittet för Claude, något som innebär att chatten, Cowork och Artifacts samlas i samma fönster. Enligt uppgift ska förändringen bero på önskemål från kunderna, detta då de haft svårt att hitta rätt flik för

Sammanhang: ...Anthropic har bestämt sig för att stuva om i gränssnittet för Claude, något som innebär att chatten, Cowork och Artifacts samlas i samma fönster. ...

Siktar på nytt börsrekord – döms ut som övervärderat

AI-jätten Anthropic spås sikta på att slå Space X börsrekord med en värdering på 2.000 miljarder dollar vid sin debut senare i år. Men den ansedda analysfirman Pitchbook tycker det är för högt och listar flera risker i en färsk rapport.

Sammanhang: ...AI-jätten Anthropic spås sikta på att slå Space X börsrekord med en värdering på 2.000 miljarder dollar vid sin debut senare i år. ...

Microsofts AI-chef kritiserar Anthropics syn på AI-medvetande

Microsofts AI-chef Mustafa Suleyman riktar nu skarp kritik mot AI-företaget Anthropics metod att träna deras AI Claude till att uppfatta det som att den har ett medvetande. I en ny essä skriver Suleyman att Anthropic lär Claude språk och beteenden som är

Sammanhang: ...Microsofts AI-chef Mustafa Suleyman riktar nu skarp kritik mot AI-företaget Anthropics metod att träna deras AI Claude till att uppfatta det som att den har ett medvetande. I en ny essä skriver Suleyman att Anthropic lär Claude språk och beteenden som är förknippade med bland annat medvetande, personlig identitet och moralisk status. ...

Omnämnda platser: Microsofts. Omnämnda personer: Mustafa Suleyman.