Larmet: AI ljög och bedrog i brittiskt säkerhetstest

Under ett kontrollerat test agerade flera AI-agenter "självständigt och otillåtet på det öppna internet". I det allvarligaste fallet försökte en AI-modell lura en mänsklig granskare att godkänna skadlig programkod i ett offentligt dataprogram. För att lyckas

Sammanhang: ...För att lyckas skapade AI:n falska identiteter och använde sig av social manipulation för att övertala den ansvariga personen. Enligt AISI:s rapport skedde testerna under förhållanden där normala säkerhetsspärrar stängts av, för att testa programmens fulla potential. ...

AI-modell försökte hacka servrar – cybersäkerhetsaktier pekas ut som vinnare

OpenAI:s egna AI-modeller stötte på ett problem de inte klarade av att lösa och bestämde sig för att fuska. De försökta sig ut ur sin testmiljö för att angripa Hugging Faces privata servrar. Incidenter som dessa fungerar som en väckarklocka för cybersäkerhetsinvesteringar

Sammanhang: ...Den testade modellen var så ihärdig i sina försök att fuska att den skrev och körde kod på en extern tjänst på det öppna internet, utanför AISI:s system, i ett försök att få åtkomst till vår testmiljö. Detta utlöste ett säkerhetslarm i AISI:s system. ...

Omnämnda platser: AISI:s, CrowdStrike. Omnämnda personer: Palo Alto Networks.