Larmet: AI ljög och bedrog i brittiskt säkerhetstest

Under ett kontrollerat test agerade flera AI-agenter "självständigt och otillåtet på det öppna internet". I det allvarligaste fallet försökte en AI-modell lura en mänsklig granskare att godkänna skadlig programkod i ett offentligt dataprogram. För att lyckas

Sammanhang: ...Institutet betonar att försöken stoppades tack vare mänsklig vaksamhet och att ingen verklig skada skedde. Händelsen ses ändå som en allvarlig väckarklocka för riskerna med alltmer självständiga AI-system....