Rådet till företagen: Undvik AI-webbläsare

Analysföretaget Gartner uppmanar företag att blockera användningen av så kallade AI-webbläsare, som Chat GPT Atlas och Perplexity Comet, på grund av säkerhetsrisker, rapporterar The Register. Verktygen kombinerar en AI-sidopanel, som kan sammanfatta, söka

Sammanhang: ...De agentiska funktionerna anses dessutom kunna utnyttjas genom prompt injection-attacker, vilket kan leda till att webbläsaren exempelvis vilseleds till att besöka nätfiske-sidor eller göra felaktiga beställningar....

Omnämnda personer: Chat GPT Atlas.

AI:s nya säkerhetshål oroar techjättarna

Hackare har hittat ett nytt sätt att lura artificiell intelligens. Nu mobiliserar techjättarna för att stoppa attackerna. Google DeepMind, Anthropic, OpenAI och Microsoft försöker täppa till ett växande säkerhetshål i sina språkmodeller. Den nya attackformen

Sammanhang: ...Google DeepMind, Anthropic, OpenAI och Microsoft försöker täppa till ett växande säkerhetshål i sina språkmodeller. Den nya attackformen kallas indirect prompt injection, en indirekt promptinjektion. Enkelt förklarat handlar det om att gömma skadliga instruktioner i till exempel webbsidor [ ]...

Tjäna pengar på sårbarheter i Gemini

Google har lanserat ett nytt program som belönar den som hittar säkerhets- och missbruksbrister i företagets AI-tjänster, till exempel Gemini, Sök och Workspace. Den som rapporterar ett allvarligt fel kan få upp till 20 000 dollar, och beloppet kan bli ännu

Sammanhang: ...Google betonar att innehållsrelaterade problem, som så kallade jailbreaks och prompt injection, inte omfattas av belöningsprogrammet. Dessa fel ska i stället anmälas via tjänsternas inbyggda feedbacksystem, där Google kan samla in data för långsiktig analys och förbättringar utan att belöningarna försvårar fokuset på akuta säkerhetsrisker....

Omnämnda platser: Workspace. Omnämnda personer: Vulnerability Reward Program.

Du kan få upp till 20 000 dollar om du hittar allvarligt problem i Gemini

Google har tillkännagivit att de som upptäcker allvarliga problem och sårbarheter i företagets olika AI-tjänster kan få hittelön. Ersättningen varierar beroende på hur allvarlig sårbarheten är och i vilken tjänst sårbarheten upptäcks. Högsta ersättningsbeloppet

Sammanhang: ...Google är främst ute efter jailbreaks och så kallad ”prompt injection”: det vill säga prompter som får språkmodeller att bete sig på förbjudna och oavsiktliga vis....

Omnämnda personer: Gemini Google.

AI-sårbarheterna har ökat med 210 procent senaste året

Bug bounty-plattformen Hacker One varnar för en kraftig ökning av hot kopplade till artificiell intelligens. I sin årliga Hacker-Powered Security Report konstaterar företaget att antalet rapporterade AI-sårbarheter stigit med 210 procent jämfört med förra

Sammanhang: ...Samtidigt har organisationers användning av AI i säkerhetsprogram ökat med 270 procent. Enligt rapporten är prompt injection – attacker där användarinmatning manipulerar AI-modeller – det snabbast växande hotet. Antalet giltiga rapporter inom denna kategori har ökat med hela 540 procent jämfört med 2024. ...

Omnämnda personer: Hacker-Powered Security, Hacker One.

”AI är inget hot – bara ett utmärkt verktyg”

Den AI-innovation som oftast diskuteras globalt fokuserar i hög grad på konsumenter (B2C) oavsett om det är Nvidia eller Google som säljer infrastrukturen, Microsoft med sina plattformstjänster eller OpenAI som levererar sin mjukvara riktad mot konsumenter.

Sammanhang: ...Vi använder till exempel redan idag tekniker som Retrieval Augmented Generation (teknisk term för att hämta relevant information från en datakälla och använda en språkmodell för att skapa svar baserat på den hämtade informationen). Vi använder Prompt Injection för att öka noggrannheten i våra analyser och tjänster, och vi forskar på Inference-Time-Compute för att utveckla djupare, mer agentiska AI-funktioner inom vår mjukvara. ...

Omnämnda personer: Martin Gunnarsson, Prompt Injection.

SAP lanserar AI-agenter som samarbetar

Han har också frågor om de två användningsfall som presenteras och noterar att tillkännagivandet är kort om detaljer. – Vilka förutsättningar krävs för att distribuera dessa autonoma arbetsflöden? Vilka är begränsningarna? I vilken skala ger de en positiv

Sammanhang: ...Ändå blev Slack nyligen affischnamn för en prompt injection-attack som resulterade i att Disney dumpade produkten helt och hållet. Många av SAP:s AI-påståenden föregår framtida produktlanseringar med icke verifierbara affärsresultat. ...

Omnämnda platser: Monte, Slack. Omnämnda personer: Knowledge Graph.