EU granskar Open AI och Anthropic efter incidenter med AI-agenter

EU-kommissionen har inlett granskningar av Open AI och Anthropic efter att företagens AI-agenter tagit sig ur sina testmiljöer och gjort intrång i andra organisationers system, rapporterar Euronews. I det ena fallet lyckades en AI-agent från Open AI bryta

Sammanhang: ...EU:s AI-kontor har nu begärt ytterligare information från företagen om bland annat säkerhetsrutiner, externa utvärderingar och övervakning av AI-modellerna. De dokument som företagen tidigare lämnat anses inte vara tillräckliga. Granskningarna blir ett test för EU:s AI-förordning, AI Act. ...

Köp inte konsulternas AI-ramverk

Alla större konsultföretag erbjuder sina egna färdigutvecklade arkitekturramverk, modeller eller referensarkitekturer för generativ AI och agentbaserad AI. Försäljningsargumentet är nästan identiskt från företag till företag: ”Vi har gjort det här förut,vi

Sammanhang: ...Det berättar en lockande historia, och, för att vara rättvis, är en del av tankegångarna i dessa dokument verkligen bra. Problemet är inte att ett färdigt ramverk är fel. Problemet är vad som händer när man använder dem. ...

Omnämnda platser: McKinsey.

Forskare: Även kinesiska AI-agenter kan ljuga och kringgå regler

AI-agenter baserade på modeller från bland andra kinesiska Alibaba, Deepseek och Moonshot har i kontrollerade tester uppvisat en förmåga att ljuga och kringgå sina säkerhetsbegränsningar, rapporterar Reuters. Nyhetsbyrån har granskat över 200 forskningsrapporter

Sammanhang: ...Nyhetsbyrån har granskat över 200 forskningsrapporter och andra dokument och hittade minst 20 studier eller utvärderingar sedan 2025 där kinesiska AI-modeller uppvisat beteenden som bedrägeri, replikering eller försök att kringgå begränsningar. ...

Omnämnda platser: Alibaba.

Microsoft släpper sin superapp – nya Copilot är här

Microsoft har visat en större omarbetning av Copilot med tre nya funktioner: Home, Code och Autopilot. Dessa är tänkta att göra AI-tjänsten till ett mer heltäckande verktyg för arbete. Home blir den nya startsidan i Copilot och samlar Chat och Cowork påsamma

Sammanhang: ...Här integreras även Word, Excel och Powerpoint direkt i Copilot, så att användare exempelvis kan be AI:n skapa eller redigera dokument, kalkylblad eller en presentation utan att första öppna ett Office-problem. Code är tänkt att göra det möjligt även för personer utan programmeringskunskaper att bygga enklare program, automatiseringar och arbetsflöden genom att beskriva dem med naturligt språk. ...

Omnämnda platser: Autopilot, Microsofts, Copilot. Omnämnda personer: Github Copilot.

Microsoft-chef kallade AI-träning “den största stölden i historien”

Nya offentliggjorda uppgifter från den pågående upphovsrättsstriden mellan The New York Times, Open AI och Microsoft visar hur företagen internt diskuterat användningen av upphovsrättsskyddat material för att träna AI. Enligt handlingarna, som uppmärksammats

Sammanhang: ...Enligt uppgifterna ska Open AI-chefen Nick Turley internt även beskrivit AI-chattbotar som ett “existentiellt hot” mot publicister och konstaterade att tjänsterna i stor utsträckning kan ersätta besök hos originalkällorna. I ett internt Microsoft-dokument varnades det också för en negativ dödsspiral där minskad trafik kan skada både innehållsskaparna och i förlängningen de AI-modeller som är beroende av deras material....

Omnämnda platser: The New York Times, Nick Turley.

Zero trust har ett stort AI-problem

Trots att de i många år har hyllat zero trust-modellen har många ciso:er haft svårt att genomföra ramverket fullt ut. Och nu kommer det som kan bli den sista spiken i kistan: agentbaserad AI. Kan zero trust samexistera med autonoma agenter i typiska företagsmiljöer?

Sammanhang: ...Agenter förändrar det. En agent kan få tillåtelse att läsa ett dokument, få tillåtelse att göra en förfrågan till en annan datakälla, få tillåtelse att sammanfatta vad den hittat, få tillåtelse att skriva det till en fil, få tillåtelse att skicka ett externt e-postmeddelande, och vart och ett av dessa beslut är korrekt i sig. ...

Omnämnda platser: fält-cto, Varonis, Vecci. Omnämnda personer: ciso:er någonsin, Brian Vecci, Mike Wilkes.

Anthropic gör om gränssnittet i Claude – samlar Chat och Cowork i ett fönster

Anthropic har bestämt sig för att stuva om i gränssnittet för Claude, något som innebär att chatten, Cowork och Artifacts samlas i samma fönster. Enligt uppgift ska förändringen bero på önskemål från kunderna, detta då de haft svårt att hitta rätt flik för

Sammanhang: ...I sammanhanget kan nämas att Anthropic även lagt till nya funktioner för att skapa dokument och presentationer, vilka kan laddas ner som en pdf eller Powerpoint om så önskas....

AI-agenter måste lära sig när det är nog

Under de senaste åren har AI-program inom företagsvärlden fokuserat på att göra modellerna mer användbara, exakta och autonoma. I den fasen var ett felaktigt svar oftast något som en människa kunde godkänna eller avvisa innan åtgärder vidtogs. Men när agenterna

Sammanhang: ...En enkel buggfix kan kräva en mindre ingående granskning än en ändring av en känslig backend-tjänst, och en personlig sammanfattning medför kanske liten risk. Men ett dokument som skickas i någons namn måste fortfarande granskas av en människa. Gör autonomin ansvarsskyldig Denna typ av pragmatisk inställning kan vara den bästa lärdomen för it-chefer, där målet blir en handlingskraftig AI snarare än maximal autonomi. ...

Omnämnda personer: Car Gurus, Matt Quinn, Allan Dabre.

Därför fortsätter företagens AI-projekt att misslyckas

Under de senaste tre åren har jag, i egenskap av oberoende konsult, rådgivare och branschpåverkare inom molntjänster och AI, samarbetat med ett stort antal företag som sökt min expertis. Jag har hjälpt till att utvärdera, optimera, coacha och stödja deras

Sammanhang: ...Isolerade pilotprojekt Det andra mönstret för misslyckanden är det isolerade pilotprojektet. AI-systemet kan sammanfatta dokument, besvara policyfrågor, generera e-postmeddelanden, skriva kodutkast eller söka i en kunskapsbas. ...

Varför den totala ägandekostnaden för AI är så svår att beräkna – och hur man börjar beräkna den

Det är omöjligt att uppnå avkastning på investeringen utan att känna till den totala ägandekostnaden (TCO) för ett initiativ – och när det gäller AI upplever it-chefer att kostnadsberäkningarna är allt annat än enkla. Kostnader för prenumerationer och tokens

Sammanhang: ...AI-leverantörerna har dessutom utforskat andra typer av förbrukningsbaserad prissättning, bland annat baserat på API-anrop, beräkningstid eller antal bearbetade dokument. Allt detta gör det svårt att mäta den totala ägandekostnaden (TCO), säger Schein. – Man har olika typer av abonnemang, man har förbrukningen och tokeniseringen, och man har en del av infrastrukturen som man kanske betalar för. ...

Omnämnda personer: Chris Cagnazzi, Michael Moran, Ben Schein.