Ny rapport: AI-agenter på frammarsch men säkerhetsoron växer

Rapporten identifierar dessutom flera kritiska problemområden. Hälften av organisationerna oroar sig för integritetsfrågor och för säkerhetsrisker. Endast en liten andel vidtar aktiva åtgärder för att mildra dessa risker. Närmare hälften oroar sig för oönskad

Sammanhang: ...Närmare hälften oroar sig för oönskad bias, och endast en fjärdedel vidtar åtgärder för att undvika det. Bristande transparens är också en stor oro. Drygt hälften av organisationerna anser att de har otillräcklig kunskap och förståelse för AI-agenters kapacitet. ...

Omnämnda platser: Runervik. Omnämnda personer: Caroline Segerstéen.

Krönika: Därför måste agentisk AI styras med fasta principer

Olika beslut kräver olika nivåer av autonomi Det är viktigt att förstå att AI-agenter verkar inom ett spektrum av autonomi, från helt självständigt agerande (”human-out-of-the-loop”) till beslut som kräver mänsklig granskning och översyn (”human-in-the-loop”).

Sammanhang: ...Fakta Checklista: Så bygger du ansvarsfull agentisk AI – sex grundläggande principer Transparens: Beskriv hur beslut fattas, vilka data som används och vilka begränsningar som finns. Mänsklig kontroll: Definiera tydligt när AI får agera självständigt och när mänsklig översyn krävs. ...

Omnämnda platser: Transparens. Omnämnda personer: Josefine Rosén.

Här är utmaningarna med AI-agenter i offentlig sektor

Datasäkerhet (79 procent) och bristande förtroende för AI-genererade resultat (74 procent) är betydande hinder för en bredare AI-användning. Dessa utmaningar bidrar till att endast 36 procent av organisationerna i EU känner sig beredda att uppfylla kraven

Sammanhang: ...Dessa utmaningar bidrar till att endast 36 procent av organisationerna i EU känner sig beredda att uppfylla kraven i EU:s kommande AI-lag (AI Act), som ställer höga krav på just datasäkerhet och transparens. Endast 21 procent menar att de har de data som krävs för att träna och finjustera AI-modeller. ...

Omnämnda platser: Runervik, Sveriges, Sverige. Omnämnda personer: Caroline Segestéen.

Experten om kvant-AI: ”Vi börjar redan se konkreta resultat”

I en global undersökning från SAS Institute svarar 60 procent av de företag som deltar att man antingen investerar i eller utforskar möjligheterna med kvant-AI. Många företagsledare ser potential inom områden som maskininlärning och dataanalys, forskningoch

Sammanhang: ...Det är också viktigt att tillämpa samma ramverk för AI-styrning som vid andra AI-projekt, inklusive krav på transparens, kontroll och ansvar. Vid kritiska beslut kan det vara lämpligt att involvera mänsklig tillsyn eller ha en ”human-in-the-loop” för att säkerställa trygghet i besluten. ...

Omnämnda personer: Antti Heino.

Google-chefen: ”Ibland är lokal AI-bearbetning det bästa valet”

– På Google Cloud ser vi att behoven varierar stort beroende på uppgift, därför erbjuder vi över 200 modeller i Vertex AI Model Garden, där man kan välja mellan egna modeller som Gemini och tredjepartsmodeller som Claude och Llama 3.2. Det gör det möjligt

Sammanhang: ...I nära samarbete med både offentlig och privat sektor har vi utvecklat tekniska lösningar som uppfyller Europas krav på dataskydd, transparens och kontroll. Hur säkerställer man att AI-assistenten kan hjälpa till med systemutveckling och optimering av kod? ...

Omnämnda platser: Vertex, Europas, Model Garden. Omnämnda personer: Google Cloud Data Boundary, Google Cloud, Gemini Code Assist.

It-konsulten bygger tillväxt med frihet: ”Roligt att vinna tillsammans”

Men Mikael Hammarin var inte nöjd där. Han ville ta bolaget ett steg närmre ett större medarbetarengagemang och i takt med det började stora delar av verksamheten att avyttras. Syftet var att bygga ett mer modernt bolag. Det nya Castra grundades 2012 med

Sammanhang: ...Vår modell fungerar för att den backas upp av kultur, transparens och tillit. Och det är något man måste bygga över tid. Bara faktumet att våra medarbetare utsett oss till Sveriges bästa arbetsplats betyder mer än någon extern utmärkelse. ...

Omnämnda platser: Linköping, Örebro, Castra. Omnämnda personer: Elin Toft, Great Place, Mikael Hammarin.

Dagligvaruhanden tappar kraftigt i kundnöjdhet

Årets mätning visar att det är små marginaler som skiljer aktörerna åt men Lidl behåller förstaplatsen. Hemköp sticker ut som den enda aktören som ökar sin kundnöjdhet, medan övriga tappar. I mars genomförde tusentals kunder en ”bojkottvecka”, där konsumentgrupper

Sammanhang: ...I mars genomförde tusentals kunder en ”bojkottvecka”, där konsumentgrupper uppmanade till köpstopp hos vissa aktörer som en protest mot höga matpriser, upplevd brist på transparens och allmän debatt om övervinster. Effekten märks tydligt i siffrorna. – Under just den veckan sjönk kundnöjdhetsindex till 66, jämfört med 68,6 under övriga veckor. ...

Omnämnda personer: Lovisa Svensson.

Så kan it-chefen möta dagens och morgondagens hot

Samtidigt utnyttjar cyberbrottslingar AI för att automatisera och effektivisera sina attacker vilket ”sänkt tröskeln” för cyberbrott. – Inträdesbarriären för cyberbrottslighet är lägre än tidigare, eftersom många kan använda AI för att skapa och automatisera

Sammanhang: ...Driver utvecklingen framåt Anna Neckelius spår att den här utvecklingen kommer göra att organisationer mer noggrant börjar granska leverantörers säkerhetsarbete och kräva ökad transparens vid upphandling av enheter. Något som enligt Anna är oerhört nyttigt då det driver utvecklingen framåt. ...

Omnämnda personer: Anna Neckelius, Workforce Experience.

”Digitala öar – ett underskattat hot mot företagets framgång”

Varför är digitala öar ett hot mot företaget? Digitala öar kan verka som ett litet problem på ytan, men konsekvenserna kan bli allvarliga för hela organisationen. Här är några utmaningar som följer när företag står med en IT-miljö som består av isolerade

Sammanhang: ...Transparens och enkel åtkomst till relevant data för alla avdelningar måste vara en prioritet. Ledarskapets roll – slutligen spelar företagsledningen en avgörande roll i att förhindra digitala öar. ...

Omnämnda platser: Norden.

Ny Microsoft-satsning ska underlätta GDPR-efterlevnad: ”Byggd för att hedra europeiska värderingar”

Projektet har genomförts i tre faser sedan januari 2023, med den sista fasen slutförd i februari 2025. Den senaste fasen inkluderar lagring av supportdata inom EU/EFTA, vilket ytterligare stärker dataskyddet. För svenska företag och organisationer innebär

Sammanhang: ...För svenska företag och organisationer innebär detta enligt bolaget flera fördelar däribland ökad datakontroll och GDPR-efterlevnad, minskat antal dataöverföringar utanför EU, förbättrad transparens kring datahantering och möjlighet till EU-baserad support. EU Data Boundary är enligt molnjätten en del av Microsofts bredare engagemang i Europa. ...

Omnämnda platser: Europa, Microsofts. Omnämnda personer: Corporate Vice, Paul Lorimer.