Anthropic-forskare: Tio procents risk att AI dödar oss inom tio år

Säkerhetsforskare på Anthropic har sagt att de på allvar tror att det finns en risk att artificiell intelligens kommer att döda alla människor, vilket är anmärkningsvärt. Evan Hubinger uppskattar personligen att risken är minst tio procent de kommande tio

Sammanhang: ...Evan Hubinger uppskattar personligen att risken är minst tio procent de kommande tio åren. Uttalandena gjordes apropå att en kollega – Jacob Coxon – sa upp sig från Anthropic i protest mot vad han anser är otillräckliga säkerhetsåtgärder. Coxon menar att Anthropic och andra AI-utvecklare vårdslöst bygger självförbättrande system de inte kan kontrollera. ...

Omnämnda personer: Evan Hubinger.

AI-topparna varnar: Mänskligheten kommer utrotas

Jacob Coxon, en tidigare anställd på AI-jätten Anthropic varnar för att AI kan utrota mänskligheten – och får medhåll av bolaget självt. En chef på Antropic, ​Evan Hubinger, svarade och skrev att han bedömer sannolikheten att AI dödar hela mänskligheten

Sammanhang: ... Jacob Coxon, en tidigare anställd på AI-jätten Anthropic varnar för att AI kan utrota mänskligheten – och får medhåll av bolaget självt. ...

Omnämnda personer: Jacob Coxon, ​Evan Hubinger.

AI-forskarens varning: Kan döda oss alla före 2030

Han har arbetat med AI på både OpenAI och Anthropic. Nu lämnar Jacob Coxon branschen – och riktar en skarp varning mot utvecklingen.

Sammanhang: ...Han har arbetat med AI på både OpenAI och Anthropic. Nu lämnar Jacob Coxon branschen – och riktar en skarp varning mot utvecklingen....

Omnämnda personer: Jacob Coxon.