Nobelpristagaren vet att det han skapat är farligt

Olle Häggström, professor i matematisk statistik, Chalmers tekniska högskola. Foto: Privat Nobelpristagaren Geoffrey Hinton varnar nu för samma AI-teknologi som han varit med och utvecklat, skriver debattören. Foto: NOAH BERGER / AP DEBATT. Då AI-forskaren

Sammanhang: ...Med en sådan tidsskala är det extremt illavarslande att se hur ledande AI-företag som OpenAI, Anthropic och Google/DeepMind befinner sig i en rasande kapplöpning, där ”säkerhetstänkandet har hamnat i baksätet för att ge plats åt glänsande produkter”, som OpenAI:s tidigare AI-säkerhetschef Jan Leike uttryckte saken då han i maj i år lämnade företaget. I en intervju senare på dagen den 8 oktober uttryckte Hinton stolthet över sin tidigare student Ilya Sutskever för att denne ”avskedade Sam Altman”. ...

Omnämnda platser: Nobelhistorien, OpenAI. Omnämnda personer: John Hopfield, Olle Häggström, Privat Nobelpristagaren Geoffrey Hinton.

Kan Hollywoodstjärnan bromsa AI-bolagen?

AI Många har försökt sakta ner OpenAI:s framfart och varnat för vd:n Sam Altmans oförsiktiga hantering av säkerhetsrisker och datarättigheter. Ingen har lyckats. Men det var innan bolaget muckade med Scarlett Johansson, skriver German Bender. För drygt ett

Sammanhang: ...Nyligen har ett antal nyckelpersoner i OpenAI:s säkerhetsteam, bland annat de två forskningsledarna Ilya Sutskever och Jan Leike, sagt upp sig eftersom de anser att ledningen inte tar riskerna med företagets AI-modeller på tillräckligt stort allvar. ...

Omnämnda platser: New York Times, The New Yorker, Silicon. Omnämnda personer: Jan Leike, Sam Altman, Mark Zuckerberg.

Open AI upplöser grupp som fokuserar på riskerna med AI

Förra året valde Open AI att inrätta ”Superalignment team”, en specialavdelning som skulle fokusera på de långsiktiga riskerna med artificiell intelligens. Nu står det emellertid klart att avdelningen kommer läggas ner inom kort, något som uppmärksammasav

Sammanhang: ...Nu står det emellertid klart att avdelningen kommer läggas ner inom kort, något som uppmärksammas av CNBC. Gruppens ledare Ilya Sutskever och Jan Leike kommer att lämna Open AI, medan övriga berörda personer har tilldelats nya arbetsuppgifter inom företaget....

Omnämnda personer: Jan Leike.

Skulle hålla koll farorna med ”super-AI” – nu har cheferna lämnat och Open AI fimpat teamet

Open AI satte så sent som i juli ihop ett team för att se över farorna med superintelligent AI. Nu har teamet upplösts. Det skriver flera amerikanska medier. Enligt Techcrunch så fick teamet sällan tillgång till de resurser som lovades, 20 procent av bolagets

Sammanhang: ...Nyheten kommer efter att båda gruppens ledare, medgrundaren Ilya Sutskever och Jan Leike, meddelat att de lämnar den Microsoft-backade startupen. Jan Leike har kommenterat sin sorti på X. ”Jag har varit oense med Open AI:s ledning om bolagets topprioritetingar ett tag nu, till vi till slut nådde fram till en brytpunkt”, skriver han bland annat. ”Att bygga en maskin som är smartare än människor är en uppenbart farlig strävan. ...

Omnämnda personer: Sam Altmans, Sam Altman, Ilya Sutskever.