Debatt om ai-risk: ”Det är inte vetenskaplig stringens att bara hänvisa till auktoriteter”

Det här är en debattartikel. Åsikterna som framförs är skribentens egna. I vårt inlägg ”Ai-debatten behöver vetenskaplig stringens – inte alarmism” påpekade vi behovet av att föra en nyanserad diskussion om ai, där argument vägs på vetenskaplig grund. Jonas

Sammanhang: ...Det gör inte varningarna irrelevanta, men det gör dem spekulativa. Det är sant att Geoffrey Hinton, en av djupinlärningens pionjärer, har uttryckt oro för ai:s utveckling. Men det är lika sant att hans Turingpris-kollega Yann LeCun är en av de skarpaste kritikerna av dessa riskbilder. ...

Omnämnda personer: Mattias Rost, Geoffrey Hinton, Jonas von.

”Det är spekulationer och gissningar att AI fortsätter vara säkert”

Det här är en debattartikel. Åsikterna som framförs är skribentens egna. Det här är en replik på ”AI-debatten behöver vetenskaplig stringens – inte alarmism”. Världens tre mest refererade ai-forskare anser att det finns en tvåsiffrig risk att hela mänskligheten

Sammanhang: ...Tvärtom framför vi argument från några av de främsta forskarna i världen, varav flera har lagt grunden till det fält debattörerna själva arbetar inom (till exempel Geoffrey Hinton, Yoshua Bengio och Stuart Russell). Att förneka detta är oseriöst och respektlöst. Annons Ta till exempel den här referentgranskade artikeln publicerad i Science med många av världens främsta forskare från 20 olika universitet samt flera Nobel- och Turingpristagare som medförfattare, där det slås fast att samhället inte är förberett för ”den snabba, transformativa ai-utveckling som många experter väntar sig” och att ”ai-säkerhetsforskningen ligger efter” vilket kan leda till ”oåterkallelig förlust av mänsklig kontroll över autonoma ai-system […] och utrotning av mänskligheten”. ...

Omnämnda platser: Devdatt, Said. Omnämnda personer: Olle Häggström, Moa Johansson, Mattias Rost.

”Oseriöst och respektlöst att förneka argument från de främsta ai-forskarna”

Det här är en debattartikel. Åsikterna som framförs är skribentens egna. Det här är en replik på ”AI-debatten behöver vetenskaplig stringens – inte alarmism”. Världens tre mest refererade ai-forskare anser att det finns en tvåsiffrig risk att hela mänskligheten

Sammanhang: ...Tvärtom framför vi argument från några av de främsta forskarna i världen, varav flera har lagt grunden till det fält debattörerna själva arbetar inom (Geoffrey Hinton, Yoshua Bengio och Stuart Russell). Att förneka detta är oseriöst och respektlöst. Annons Ta till exempel den här referentgranskade artikeln publicerad i Science, med många av världens främsta forskare från 20 olika universitet samt flera Nobel- och Turingpristagare som medförfattare, där det slås fast att samhället inte är förberett för ”den snabba, transformativa ai-utveckling som många experter väntar sig” och att ”ai-säkerhetsforskningen ligger efter” vilket kan leda till ”oåterkallelig förlust av mänsklig kontroll över autonoma ai-system […] och utrotning av mänskligheten”. ...

Omnämnda platser: Said, Devdatt. Omnämnda personer: Jonas von Essen, Moa Johansson, Mattias Rost.

”Riskerna med ai låter som science fiction – men går inte att vifta bort”

Det här är en debattartikel. Åsikterna som framförs är skribentens egna. I tisdagens (26/8) SVT-sändning av Aktuellt fortsatte matematikprofessorn Olle Häggström och ai-docenten Moa Johansson en debatt som började i Ny Teknik om huruvida det finns en risk

Sammanhang: ...I den största enkät som gjorts i frågan (från 2023) angav nära hälften av forskarna en risk på minst 10 procent att ai skulle leda till mänsklighetens utplåning. Nobelpristagaren och ”ai-gudfadern” Geoffrey Hinton – vars arbete ligger bakom dagens ai-modeller – sa nyligen i en intervju att han personligen tror att risken för utrotning inom 5-20 år är över 50 procent. ...

Omnämnda platser: Dubhashi. Omnämnda personer: Olle Häggström, Elon Musk, Geoffrey Hinton.

”Oansvarigt om ai-risker av de fyra Chalmerskollegerna”

Det här är en debattartikel. Åsikterna som framförs är skribentens egna. Det här är en replik på debattinlägget ”GPT-5 utplånade inte mänskligheten – dags att fokusera på verkliga risker”. Serietecknaren Zach Wienersmith ritade för några år sedan en teckning

Sammanhang: ...Alan Turing framhöll det i ett känt uttalande från 1951, och bland de många nutida experter som varnar för att det i värsta fall kan leda till slutet för Homo sapiens finns världens tre mest citerade ai-forskare Yoshua Bengio, Geoffrey Hinton och Ilya Sutskever, varav Hinton som bekant förra året belönades med Nobelpriset för att ha lagt en stor del av grunden till dagens rasande snabba ai-utveckling. ...

Omnämnda platser: Nick Bostroms, Annons, Ilya Sutskever. Omnämnda personer: Geoffrey Hinton, Henrik Berglund, Zach Wienersmith.

Replik: ”Lagstiftning om ai är vägen framåt – inte öppen källkod”

Det här är en debattartikel. Åsikterna som framförs är skribentens egna. Intelligens är den egenskap med vilken människan, framför andra djurarter, tagit kommandot över vår planet. Kanske är intelligensen rentav den mest potenta kraft universum skådat, men

Sammanhang: ...I ett upprop i maj förra året som manade till globala krafttag för att ”hantera risken för utrotning genom ai” toppades undertecknarlistan av Geoffrey Hinton och Yoshua Bengio – två av de tre ai-forskare som tilldelades 2018 års Turingpris (datalogins motsvarighet till Nobelpriset) för att ha initierat den så kallade deep learning-revolution som i dag driver ai-utvecklingen. ...

Omnämnda platser: Nobelpriset, Intelligens. Omnämnda personer: Yoshua Bengio, Geoffrey Hinton, Olle Häggström.

Drama, skräck och häpnad – här har du hela året med Chat GPT

För ett år sedan var Open AI mest förknippat med Elon Musk, som en gång i tiden var en del av bolaget. Forskare och utvecklare – och vi på Ny Teknik – hade visserligen häpnat över språkmodellernas förmågor långt tidigare, men inget av det hade sipprat ini

Sammanhang: ...Av de 900 jobb som analyserats i rapporten kan mellan 25-50 procent automatiseras och två tredjedelar av alla jobb förväntas påverkas av generativ ai. 1 maj Geoffrey Hinton – en av de riktigt stora ai-pionjärerna och en av de som ligger bakom det senaste årtiondets ai-avancemang – lämnar sin tjänst på Google. ...

Omnämnda platser: Iteam, Goldman Sachs, Storbritannien. Omnämnda personer: Geoffrey Hinton, Sam Altman, Elon Musk.