AI-jätten går mot börsen – varnar samtidigt för teknikens existentiella risker för mänskligheten

Anthropic är påväg till börsen, samtidigt varnar bolaget investerarna för att allt kraftfullare AI kan innebära ”katastrofala eller existentiella risker för mänskligheten” – och för modeller som i tester har försökt undvika avstängning, manipulera information

Sammanhang: ...Enligt Reuters uppskattar Anthropics säkerhetsforskare, Evan Hubinger, sannolikheten för att AI orsakar människors död inom det närmaste decenniet till över 10 procent. ...

Omnämnda personer: Evan Hubinger, Jacob Coxon.

Anthropics egna forskare: Över 10 procents risk att AI utplånar mänskligheten

En säkerhetsforskare lämnar Anthropic och anklagar bolaget för att spela med mänsklighetens liv. Timmar senare bedömer en kollega som fortfarande är anställd att sannolikheten för att AI dödar alla människor överstiger tio procent inom ett decennium. OchAnthropic

Sammanhang: ...Jag tror att Anthropic gör sitt bästa, men vi har ännu ingen plan för att lösa problemet med att anpassa superintelligensen och är inte tydligt på väg dit. Evan Hubinger, forskningsledare AI-anpassning, Anthropic enligt CNBC. Hubinger förtydligade att riskerna från nuvarande AI-modeller är låga. ...

Omnämnda personer: Jacob Coxon, Evan Hubinger.

AI-experter slår larm: Dolda risker kan hota mänsklighetens framtid

Två AI-forskare med tydlig insyn i AI-företagens innersta varnar för en farlig utveckling. AI utgör ett reellt hot mot mänskligheten, anser de. ”Underskatta inte kraften i den här tekniken”, skriver AI-forskaren Jacob Coxon, som själv lämnat företaget Anthropic

Sammanhang: ...Jacob Coxon, som tidigare även jobbat på konkurrenten Open AI, anser att ingen av de båda AI-jättarna agerar ansvarsfullt. ”De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut", skriver han på X. ”Skulle kunna döda alla” Han får medhåll av Evan Hubinger, säkerhetsforskare på Anthropic. ”Vi tror verkligen på fullt allvar att AI skulle kunna döda alla människor”, skriver Hubinger på X. ...

Omnämnda personer: Jacob Coxon, Evan Hubinger.