Varnar för nya AI-verktyget – kallar till krismöte: ”För farlig”

Det amerikanska AI-företaget Anthropic dröjer med att släppa sin nya AI-modell Claude Mythos till allmänheten. Orsaken: den anses vara för farlig. ”AI-modeller har nått en nivå av programmeringsförmåga där de kan överträffa alla – utom de mest skickliga människorna

Sammanhang: ...En första version av Claude Mythos har också släppts till ett par utvalda företag, exempelvis Apple och Microsoft, för att ge dem möjlighet att testa sin cybersäkerhet. I Storbritannien ska centralbanken Bank of England sammankalla banktoppar för att varna för AI-modellen, som de menar kan ”bryta sig in i det finansiella systemet och löpa amok”, enligt uppgifter till The Telegraph. – Det pågår mycket spännande diskussioner om Mythos, men säkerhetsriskerna är reella och behöver hanteras, säger Ciaran Martin, tidigare chef för Storbritanniens cybersäkerhetscentrum, till tidningen. ...

Omnämnda platser: New York Times, Breakit, England. Omnämnda personer: Claude Mythos, Jerome Powell, Elia Zaitsev.