Professor varnar för AI-hysterin: ”Rysk roulette”

Världens ledare sviker sitt ansvar genom att låta techjättar driva en okontrollerad AI-utveckling. Det menar den högt ansedda forskaren Stuart Russell, som nu varnar för att den rådande AI-kapprustningen kan leda till mänsklighetens undergång. Det pågår en

Sammanhang: ...Det pågår en global tävling mellan världens största teknikbolag om att skapa alltmer kraftfull artificiell intelligens. Men enligt Stuart Russell, professor […]...

Omnämnda personer: Stuart Russell.

”Det är spekulationer och gissningar att AI fortsätter vara säkert”

Det här är en debattartikel. Åsikterna som framförs är skribentens egna. Det här är en replik på ”AI-debatten behöver vetenskaplig stringens – inte alarmism”. Världens tre mest refererade ai-forskare anser att det finns en tvåsiffrig risk att hela mänskligheten

Sammanhang: ...Tvärtom framför vi argument från några av de främsta forskarna i världen, varav flera har lagt grunden till det fält debattörerna själva arbetar inom (till exempel Geoffrey Hinton, Yoshua Bengio och Stuart Russell). Att förneka detta är oseriöst och respektlöst. Annons Ta till exempel den här referentgranskade artikeln publicerad i Science med många av världens främsta forskare från 20 olika universitet samt flera Nobel- och Turingpristagare som medförfattare, där det slås fast att samhället inte är förberett för ”den snabba, transformativa ai-utveckling som många experter väntar sig” och att ”ai-säkerhetsforskningen ligger efter” vilket kan leda till ”oåterkallelig förlust av mänsklig kontroll över autonoma ai-system […] och utrotning av mänskligheten”. ...

Omnämnda platser: Devdatt, Said. Omnämnda personer: Olle Häggström, Moa Johansson, Mattias Rost.

”Oseriöst och respektlöst att förneka argument från de främsta ai-forskarna”

Det här är en debattartikel. Åsikterna som framförs är skribentens egna. Det här är en replik på ”AI-debatten behöver vetenskaplig stringens – inte alarmism”. Världens tre mest refererade ai-forskare anser att det finns en tvåsiffrig risk att hela mänskligheten

Sammanhang: ...Tvärtom framför vi argument från några av de främsta forskarna i världen, varav flera har lagt grunden till det fält debattörerna själva arbetar inom (Geoffrey Hinton, Yoshua Bengio och Stuart Russell). Att förneka detta är oseriöst och respektlöst. Annons Ta till exempel den här referentgranskade artikeln publicerad i Science, med många av världens främsta forskare från 20 olika universitet samt flera Nobel- och Turingpristagare som medförfattare, där det slås fast att samhället inte är förberett för ”den snabba, transformativa ai-utveckling som många experter väntar sig” och att ”ai-säkerhetsforskningen ligger efter” vilket kan leda till ”oåterkallelig förlust av mänsklig kontroll över autonoma ai-system […] och utrotning av mänskligheten”. ...

Omnämnda platser: Said, Devdatt. Omnämnda personer: Jonas von Essen, Moa Johansson, Mattias Rost.

AI med rätt att döda

Världens alla bin håller på att dö ut. För att pollinera insekter har företaget Granular utvecklat artificiella bin i form av små drönare. Men drönarbina hackas. Deras bildigenkännings­algoritmer program­meras om från att känna igen blommor till ansikten.

Sammanhang: ...Båda sidor försöker nu överlista varandra med smarta motmedel. En risk är dock, menar bland annat Stuart Russell, att detta även riskerar att driva fram en allt större autonomi, som gör att drönarna kan hitta sina mål utan hjälp av signaler från piloten, med andra ord utan meningsfull mänsklig kontroll. ...

Omnämnda platser: Black Mirror, Ryssland, Storbritannien. Omnämnda personer: Vincent Boulanin, Peter Bovet, Dean Rosenfield.

Drama, skräck och häpnad – här har du hela året med Chat GPT

För ett år sedan var Open AI mest förknippat med Elon Musk, som en gång i tiden var en del av bolaget. Forskare och utvecklare – och vi på Ny Teknik – hade visserligen häpnat över språkmodellernas förmågor långt tidigare, men inget av det hade sipprat ini

Sammanhang: ...Många av världens ledande ai-forskare – inklusive Stuart Russell och Yoshua Bengio – skriver under. Det gör även Elon Musk, Apples medgrundare Steve Wozniak och författaren Yuval Noah Harari. ...

Omnämnda platser: Iteam, Goldman Sachs, Storbritannien. Omnämnda personer: Geoffrey Hinton, Sam Altman, Elon Musk.