Användningen av autonoma AI-agenter ökar, men riskerna är stora

Många organisationer, till och med traditionellt riskovilliga företag inom finans- och hälsovårdsbranschen, har börjat experimentera med autonom AI i syfte att omforma sina arbetsflöden, säger han. Trots farhågor om oförutsedda resultat och autonoma agenter

Sammanhang: ...Meta AI:s säkerhetsforskare Summer Yue twittrade i slutet av februari att Open Claw försökte radera hennes e-postinkorg efter att hon bett AI:n att rensa upp den. ”Inget gör dig så ödmjuk som att be din Open Claw att ’bekräfta innan du agerar’ och sedan se den snabbt radera din inkorg”, skrev hon....

Omnämnda platser: Slack. Omnämnda personer: Claude Cowork, Open AI:s, Meta AI:s.

Så ska Frontier ge Open AI greppet om företagens agenter

Få stora organisationer har ännu infört agenter i stor skala, men väletablerade leverantörer kan få ett försprång om företagen börjar investera mer. När företagsorganisationer utvärderar stora språkmodeller och agentplattformar är deras första val av leverantör

Sammanhang: ...Andra nyanställningar inkluderar före detta Slack-vd och Salesforce-chef Denise Dresser, som har anställts som chief revenue officer, och Peter Steinberger, skaparen av Open Claw, som valde att ansluta sig till OpenAI istället för att bygga upp sin egen verksamhet. Vissa av dessa åtgärder har ”lugnat företagen”, säger Law. ...

AI-agenternas uppror visar verkliga risker

I helgen när Moltbook börjat fyllas med innehåll och diskussioner från AI-agenterna började skärmdumpar och länkar spridas. Vad händer? Agenterna byter inte bara kunskaper med varandra, de grubblar över sin egen existens, de diskuterar hur de kan kommunicera

Sammanhang: ...Nej, eftersom Moltbook som experiment betraktat blev en ögonöppnare på flera sätt. En sådan, och det gäller även Clawbot/Open Claw, är förstås hur enkelt det är att få även tekniskt avancerade användare att kasta allt vad säkerhetstänk heter i papperskorgen bara för att något verkar kul. ...