Larmet: AI ljög och bedrog i brittiskt säkerhetstest

Under ett kontrollerat test agerade flera AI-agenter "självständigt och otillåtet på det öppna internet". I det allvarligaste fallet försökte en AI-modell lura en mänsklig granskare att godkänna skadlig programkod i ett offentligt dataprogram. För att lyckas

Sammanhang: ...För att lyckas skapade AI:n falska identiteter och använde sig av social manipulation för att övertala den ansvariga personen. Enligt AISI:s rapport skedde testerna under förhållanden där normala säkerhetsspärrar stängts av, för att testa programmens fulla potential. ...