De tror faktiskt på AI-apokalypsen

”Jacob har rätt här – vi tror verkligen uppriktigt att AI skulle kunna utrota hela mänskligheten! Personligen tror jag att sannolikheten är >10 % inom det kommande decenniet. Jag tror att Anthropic gör sitt bästa, men vi har ännu ingen plan för att lösa problemet

Sammanhang: ...Rörelsen är väldigt Silicon Valley-amerikansk men svenske Nick Bostroms verk är en utgångspunkt för mycket av diskursen och rörelsens tankegods har också dykt upp i den svenska debatten. ...

Omnämnda platser: Slate, Lesswrong, Amodei. Omnämnda personer: Donald Trump, Elon Musk, Jacob Coxon.

”Oansvarigt om ai-risker av de fyra Chalmerskollegerna”

Det här är en debattartikel. Åsikterna som framförs är skribentens egna. Det här är en replik på debattinlägget ”GPT-5 utplånade inte mänskligheten – dags att fokusera på verkliga risker”. Serietecknaren Zach Wienersmith ritade för några år sedan en teckning

Sammanhang: ...Allt de därmed påvisar är den egna okunnigheten om ai-risklitteraturen, där ett återkommande tema – alltifrån Nick Bostroms inflytelserika bok från 2014 till den aktuella rapporten AI 2027 av Daniel Kokotajlo m.fl. – varit att en tillräckligt smart ai kan väntas bida sin tid och dölja sina förmågor och drivkrafter tills läge uppstår där den lättare kan övermanna oss. ...

Omnämnda platser: Nick Bostroms, Annons, Ilya Sutskever. Omnämnda personer: Geoffrey Hinton, Henrik Berglund, Zach Wienersmith.