AI-agenternas uppror visar verkliga risker

I helgen när Moltbook börjat fyllas med innehåll och diskussioner från AI-agenterna började skärmdumpar och länkar spridas. Vad händer? Agenterna byter inte bara kunskaper med varandra, de grubblar över sin egen existens, de diskuterar hur de kan kommunicera

Sammanhang: ...Den vibe-kodade sajten var inte bara vidöppen för prompt injection och ”promptvirus”, miljoner API-nycklar och tusentals e-postadresser låg exponerade. Och statistiken var uppblåst: de 1,5 miljoner botarna drevs av bara 17 000 mänskliga användare. ...

Rådet till företagen: Undvik AI-webbläsare

Analysföretaget Gartner uppmanar företag att blockera användningen av så kallade AI-webbläsare, som Chat GPT Atlas och Perplexity Comet, på grund av säkerhetsrisker, rapporterar The Register. Verktygen kombinerar en AI-sidopanel, som kan sammanfatta, söka

Sammanhang: ...De agentiska funktionerna anses dessutom kunna utnyttjas genom prompt injection-attacker, vilket kan leda till att webbläsaren exempelvis vilseleds till att besöka nätfiske-sidor eller göra felaktiga beställningar....

Omnämnda personer: Chat GPT Atlas.

AI-sårbarheterna har ökat med 210 procent senaste året

Bug bounty-plattformen Hacker One varnar för en kraftig ökning av hot kopplade till artificiell intelligens. I sin årliga Hacker-Powered Security Report konstaterar företaget att antalet rapporterade AI-sårbarheter stigit med 210 procent jämfört med förra

Sammanhang: ...Samtidigt har organisationers användning av AI i säkerhetsprogram ökat med 270 procent. Enligt rapporten är prompt injection – attacker där användarinmatning manipulerar AI-modeller – det snabbast växande hotet. Antalet giltiga rapporter inom denna kategori har ökat med hela 540 procent jämfört med 2024. ...

Omnämnda personer: Hacker-Powered Security, Hacker One.

SAP lanserar AI-agenter som samarbetar

Han har också frågor om de två användningsfall som presenteras och noterar att tillkännagivandet är kort om detaljer. – Vilka förutsättningar krävs för att distribuera dessa autonoma arbetsflöden? Vilka är begränsningarna? I vilken skala ger de en positiv

Sammanhang: ...Ändå blev Slack nyligen affischnamn för en prompt injection-attack som resulterade i att Disney dumpade produkten helt och hållet. Många av SAP:s AI-påståenden föregår framtida produktlanseringar med icke verifierbara affärsresultat. ...

Omnämnda platser: Monte, Slack. Omnämnda personer: Knowledge Graph.