De tror faktiskt på AI-apokalypsen

”Jacob har rätt här – vi tror verkligen uppriktigt att AI skulle kunna utrota hela mänskligheten! Personligen tror jag att sannolikheten är >10 % inom det kommande decenniet. Jag tror att Anthropic gör sitt bästa, men vi har ännu ingen plan för att lösa problemet

Sammanhang: ...Det är också, för en utomstående betraktare, en ganska konstig community där diskussioner om ett visst tankeexperiment under en period rakt av förbjöds på Lesswrong eftersom det ansågs för farligt. Och ett av rationalisternas mest populära verk är ett stycke Harry Potter-fanfiction, skriven av Lesswrongs grundare och rationaliströrelsens store tänkare Eliezer Yudkowsky. ...

Omnämnda platser: Slate, Lesswrong, Amodei. Omnämnda personer: Donald Trump, Elon Musk, Jacob Coxon.

Prognos: AI kommer inte att ersätta mänskliga utvecklare på minst fem år

”Framtiden är osäker, men vi bör inte bara vänta på att den ska komma”, skriver forskarna i en rapport om sina resultat. ”Om vi försöker förutsäga vad som kommer att hända, om vi är uppmärksamma på trenderna och extrapolerar dem, om vi bygger modeller avden

Sammanhang: ...Denna nya upptäckt förlänger tidsplanen med 3,5 till 5 år jämfört med LessWrongs ursprungliga prognos från april 2025. Detta är enligt LessWrong resultatet av ett flertal omprövningar, omformuleringar och förändrade forskningsstrategier. Forskarna är särskilt mindre optimistiska när det gäller hastighetsökningar inom AI-forskning och utveckling, och förlitar sig på ett nytt ramverk för en explosion av mjukvaruintelligens (SIE) – det vill säga om AI förbättrar sina förmågor snabbare utan behov av mer datorkraft, och hur snabbt detta kan ske. ...

Omnämnda platser: LessWrong. Omnämnda personer: Less Wrongs.