Lämnar AI-företaget – varnar för mänsklighetens undergång

I en tråd på X skriver Coxon att många chefer och seniora forskare inom AI-branschen uttrycker större oro privat än offentligt. Han varnar för en kapplöpning mot superintelligent AI utan tillräcklig förståelse för hur systemen fungerar. Coxon uppmanar därför

Sammanhang: ...Coxon uppmanar därför AI-forskare att ifrågasätta utvecklingen och kräva bättre säkerhetsförutsättningar. Kritik mot uttalandet Evan Hubinger, säkerhetsforskare på Anthropic, bedömer risken för ett sådant scenario till omkring tio procent. ...

Omnämnda personer: Evan Hubinger.