Din AI-agent är redo. Är din infrastruktur också det?

Om en agent till exempel skickar förfrågningar till en e-posttjänst, ska du sätta upp en kontrollpunkt mellan de två. – Runt luckorna mellan de opålitliga agenterna och där den traditionella programvaran finns, det är där du vill fokusera dina säkerhetsprocesser,

Sammanhang: ...Summer Yue, Metas alignment director, bestämde sig nyligen för att använda Open Claw, ett viralt agentiskt AI-verktyg med öppen källkod, för att hantera sin inkorg. Efter att det fungerat i en testinkorg satte hon in det på riktigt. ”Inget gör en så ödmjuk som att be Open Claw att bekräfta innan det agerar och sedan se den snabbt radera hela inkorgen”, skrev hon på X. ”Jag kunde inte stoppa det från min telefon. ...

Omnämnda platser: USA, Lillis, Metas. Omnämnda personer: Rakesh Malhotra, cio:er sinnesro, John Arsneault.

Open AI vill att Codex ska sluta prata om vättar och oknytt

Open AI har nu lagt in specifika instruktioner i sitt kodverktyg Codex som flera gånger instruerar modellen att aldrig prata om vättar (goblins), oknytt (gremlins), tvättbjörnar, troll, duvor och andra varelser om det inte är tydligt relevant. Det hela tycks

Sammanhang: ...Det hela tycks särskilt uppstå när Open AI:s modell används för att driva Open Claw, ett verktyg som låter AI ta över styrningen av en dator eller appar, rapporterar Wired. En användare uppmärksammar att AI-modellen tycks prata specifikt om buggar som vättar och oknytt. ...

Omnämnda personer: Sam Altman.

Användningen av autonoma AI-agenter ökar, men riskerna är stora

Många organisationer, till och med traditionellt riskovilliga företag inom finans- och hälsovårdsbranschen, har börjat experimentera med autonom AI i syfte att omforma sina arbetsflöden, säger han. Trots farhågor om oförutsedda resultat och autonoma agenter

Sammanhang: ...Meta AI:s säkerhetsforskare Summer Yue twittrade i slutet av februari att Open Claw försökte radera hennes e-postinkorg efter att hon bett AI:n att rensa upp den. ”Inget gör dig så ödmjuk som att be din Open Claw att ’bekräfta innan du agerar’ och sedan se den snabbt radera din inkorg”, skrev hon....

Omnämnda platser: Slack. Omnämnda personer: Claude Cowork, Open AI:s, Meta AI:s.

Så ska Frontier ge Open AI greppet om företagens agenter

Få stora organisationer har ännu infört agenter i stor skala, men väletablerade leverantörer kan få ett försprång om företagen börjar investera mer. När företagsorganisationer utvärderar stora språkmodeller och agentplattformar är deras första val av leverantör

Sammanhang: ...Andra nyanställningar inkluderar före detta Slack-vd och Salesforce-chef Denise Dresser, som har anställts som chief revenue officer, och Peter Steinberger, skaparen av Open Claw, som valde att ansluta sig till OpenAI istället för att bygga upp sin egen verksamhet. Vissa av dessa åtgärder har ”lugnat företagen”, säger Law. ...

AI-agenternas uppror visar verkliga risker

I helgen när Moltbook börjat fyllas med innehåll och diskussioner från AI-agenterna började skärmdumpar och länkar spridas. Vad händer? Agenterna byter inte bara kunskaper med varandra, de grubblar över sin egen existens, de diskuterar hur de kan kommunicera

Sammanhang: ...Nej, eftersom Moltbook som experiment betraktat blev en ögonöppnare på flera sätt. En sådan, och det gäller även Clawbot/Open Claw, är förstås hur enkelt det är att få även tekniskt avancerade användare att kasta allt vad säkerhetstänk heter i papperskorgen bara för att något verkar kul. ...