AI-pionjärens AI ska hålla andra AI-system ärliga

En av AI-forskningens pionjärer, Yoshua Bengio, har nu lanserat den ideella organisationen Law Zero. Syftet med organisationen är att utveckla “ärlig” artificiell intelligens som kan identifiera och förhindra vilseledande eller skadligt beteende hos autonoma

Sammanhang: ...En av AI-forskningens pionjärer, Yoshua Bengio, har nu lanserat den ideella organisationen Law Zero. Syftet med organisationen är att utveckla “ärlig” artificiell intelligens som kan identifiera och förhindra vilseledande eller skadligt beteende hos autonoma AI-system, rapporterar The Guardian. ...

Omnämnda personer: Yoshua Bengio.

Replik: ”Lagstiftning om ai är vägen framåt – inte öppen källkod”

Det här är en debattartikel. Åsikterna som framförs är skribentens egna. Intelligens är den egenskap med vilken människan, framför andra djurarter, tagit kommandot över vår planet. Kanske är intelligensen rentav den mest potenta kraft universum skådat, men

Sammanhang: ...I ett upprop i maj förra året som manade till globala krafttag för att ”hantera risken för utrotning genom ai” toppades undertecknarlistan av Geoffrey Hinton och Yoshua Bengio – två av de tre ai-forskare som tilldelades 2018 års Turingpris (datalogins motsvarighet till Nobelpriset) för att ha initierat den så kallade deep learning-revolution som i dag driver ai-utvecklingen. ...

Omnämnda platser: Nobelpriset, Intelligens. Omnämnda personer: Yoshua Bengio, Geoffrey Hinton, Olle Häggström.

AI-podden blickar tillbaka på 2023

I början av december lanserade Google Deepmind sin stora språkmodell Gemini i tre olika versioner: Ultra, Pro och Nano. Ultra-versionen sägs slå OpenAI:s GPT-4 i nästan allt – den sägs också vara bättre än mänskliga experter på språkförståelse. Det enda som

Sammanhang: ...Säkert genombrott relaterade till resonemang och planering, som GFlowNets av Yoshua Bengio och hans forskargrupp. Men också Nvidias AI-system som kan lära sig att designa ”belöningar” för att träna robotar för att utföra fysiska uppgifter, som exemplet med pennsnurrning som visades. ...

Omnämnda platser: Sifted, Multimodal, Europa. Omnämnda personer: Jeff Dean, Google Deepmind, Yoshua Bengio.

Drama, skräck och häpnad – här har du hela året med Chat GPT

För ett år sedan var Open AI mest förknippat med Elon Musk, som en gång i tiden var en del av bolaget. Forskare och utvecklare – och vi på Ny Teknik – hade visserligen häpnat över språkmodellernas förmågor långt tidigare, men inget av det hade sipprat ini

Sammanhang: ...Många av världens ledande ai-forskare – inklusive Stuart Russell och Yoshua Bengio – skriver under. Det gör även Elon Musk, Apples medgrundare Steve Wozniak och författaren Yuval Noah Harari. ...

Omnämnda platser: Iteam, Goldman Sachs, Storbritannien. Omnämnda personer: Geoffrey Hinton, Sam Altman, Elon Musk.

”Övertygande språk är inget belägg för intelligens”

Ett överdrivet fokus på hur AI kommer att påverka människans existens i framtiden hamnar i vägen för problem som redan finns, skriver fyra AI-forskare. Bild: Getty images Många forskare inom AI föreställer sig att ett system med god förmåga att producera

Sammanhang: ...Ett annat exempel: Den ledande AI-forskaren och Turingpristagaren Yoshua Bengio sa tidigare i år att vi ”nu i princip har nått den punkt där det finns AI-system som kan lura människor, vilket betyder att de kan klara Turing-testet”. ...

Omnämnda platser: Intelligens, Nederländerna, Sveriges. Omnämnda personer: David Powers, Chat GPT, Peter Norvig.