Din AI-agent är redo. Är din infrastruktur också det?

Om en agent till exempel skickar förfrågningar till en e-posttjänst, ska du sätta upp en kontrollpunkt mellan de två. – Runt luckorna mellan de opålitliga agenterna och där den traditionella programvaran finns, det är där du vill fokusera dina säkerhetsprocesser,

Sammanhang: ...Vi ser redan offentliga exempel på enskilda anställda som använder kraftfull agentisk AI med negativa konsekvenser. Summer Yue, Metas alignment director, bestämde sig nyligen för att använda Open Claw, ett viralt agentiskt AI-verktyg med öppen källkod, för att hantera sin inkorg. ...

Omnämnda platser: USA, Lillis, Metas. Omnämnda personer: Rakesh Malhotra, cio:er sinnesro, John Arsneault.

Användningen av autonoma AI-agenter ökar, men riskerna är stora

Många organisationer, till och med traditionellt riskovilliga företag inom finans- och hälsovårdsbranschen, har börjat experimentera med autonom AI i syfte att omforma sina arbetsflöden, säger han. Trots farhågor om oförutsedda resultat och autonoma agenter

Sammanhang: ...Ändå har vissa användare gett dessa autonoma agenter en hög grad av kontroll, och det finns risker när de överlämnar sina datorer utan hårda gränser. Meta AI:s säkerhetsforskare Summer Yue twittrade i slutet av februari att Open Claw försökte radera hennes e-postinkorg efter att hon bett AI:n att rensa upp den. ”Inget gör dig så ödmjuk som att be din Open Claw att ’bekräfta innan du agerar’ och sedan se den snabbt radera din inkorg”, skrev hon....

Omnämnda platser: Slack. Omnämnda personer: Claude Cowork, Open AI:s, Meta AI:s.

AI-verktyget Openclaw raderade Meta-chefs inkorg

Metas chef för AI-alignment Summer Yue skriver att hon fick delar av sin e-postinkorg raderad när AI-agentverktyget Openclaw började ta bort mejl trots att hon uttryckligen sagt att inget skulle göras utan godkännande, rapporterar Tom’s Hardware. Händelsen

Sammanhang: ...Metas chef för AI-alignment Summer Yue skriver att hon fick delar av sin e-postinkorg raderad när AI-agentverktyget Openclaw började ta bort mejl trots att hon uttryckligen sagt att inget skulle göras utan godkännande, rapporterar Tom’s Hardware. ...

Omnämnda platser: Metas.