När ”human in the loop” ger en falsk trygghet

När det gäller farhågor kring riskerna med AI-system kommer svaret garanterat att vara fyra ord: ”human in the loop”. Diskussionen kan visserligen breddas, men den försäkran är oundviklig. Det är ett uttryck inom AI-styrning som har blivit så uttjatat att

Sammanhang: ...AI-granskaren behöver expertis och sammanhang för att utvärdera rekommendationen, tillräckligt med tid för att göra det samt både befogenhet och teknisk förmåga att avvisa eller upphäva den, säger Eric Billingsley, coo och cto på AI-säkerhetsföretaget Trust Scale. ...

Omnämnda platser: Texas, Frisco, Blumofe. Omnämnda personer: Eric Billingsley, Doug Shepherd, Trust Scale.

Microsoft slår ut AI-plattform för cyberbrott

Microsoft meddelar att de slagit ut Eviltokens, en cyberbrottsplatform som använde AI för att hjälpa bedragare att analysera kapade mejlkonton och hitta de mest lönsamma offren. Eviltokens lanserades i februari 2026 och hade inom några månader kopplats till

Sammanhang: ...Centralt för tjänsten var en AI-baserade chattbot som kunde identifiera personer med ansvar för betalningar, kartlägga relationer till leverantörer och kollegor samt hitta diskussioner om fakturor och banköveröringar. Den kunde också föreslå vilka personer bedragare borde utge sig för att vara och hjälpa till att skriva trovärdiga bluffmejl. ...

Omnämnda platser: Storbritannien.

Open AI vill se globala AI-standarder – och att USA leder arbetet

Open AI uppmanar nu USA att ta ledningen i arbetet med att ta fram internationella tekniska standarder för de mest avancerade AI-systemen. Bland annat efterlyser Open AI sätt att mäta AI-systems förmågor och risker, samt internationella rutiner för att rapportera

Sammanhang: ...Bland annat efterlyser Open AI sätt att mäta AI-systems förmågor och risker, samt internationella rutiner för att rapportera allvarliga incidenter. Detta inkluderar system som autonomt kan förbättra sina egna förmågor. ...

Omnämnda platser: New, Kina, USA. Omnämnda personer: Sam Altman, Donald Trumps.

AI-fel är oundvikliga – och it-chefen får skulden

Även när it-chefer inte har insyn i AI-agenternas agerande eller inte själva väljer leverantör är det troligt att de ändå får ta på sig skulden när något går snett. It-chefer ser redan att detta händer inom sina organisationer, och 52 procent uppger attcio:er

Sammanhang: ... – Det finns ett pragmatiskt sätt att se på hur detta kan vara ett organisatoriskt ansvar, säger Watts och rekommenderar att även om cio:er bör leda arbetet måste organisationerna dela på ansvaret för bättre kontroller samt för utbildning och införande av AI. Boris Kolev, global teknikchef på den ideella organisationen JA Worldwide, håller med om att AI-styrning bör vara en högsta prioritet för it-chefer, särskilt med tanke på att en felaktig agent snabbt kan bli ett enormt problem när den ändrar en databaspost, skickar ett meddelande eller utlöser en transaktion. ...

Omnämnda platser: Dataiku. Omnämnda personer: Onyx Security, Morgan Watts, Gil Elbaz.

Zero trust har ett stort AI-problem

Trots att de i många år har hyllat zero trust-modellen har många ciso:er haft svårt att genomföra ramverket fullt ut. Och nu kommer det som kan bli den sista spiken i kistan: agentbaserad AI. Kan zero trust samexistera med autonoma agenter i typiska företagsmiljöer?

Sammanhang: ...Det innebär att agenterna kommer att få en kombination av hastighetsbegränsningar, transaktionsgränser, utgifts- och databudgetar, sandboxing, godkännandeprocesser för åtgärder med stora konsekvenser samt oföränderliga aktivitetsspår, säger Wilkes. – Viktigast av allt är att autonoma system behöver snabba och pålitliga ångraknappar. ...

Omnämnda platser: fält-cto, Varonis, Vecci. Omnämnda personer: ciso:er någonsin, Brian Vecci, Mike Wilkes.

AI är inte döden för SaaS

Nvidias vd Jensen Huang hävdar att det är ”det mest ologiska som finns” att tro att AI kommer att sätta stopp för SaaS, och säger att marknaderna ”har missbedömt situationen” när de fått SaaS-aktierna att rasa. Varför ”ologiskt”? Jo, som analytikern Benedict

Sammanhang: ...Shopify låter handlarna granska och redigera den genererade koden samt återställa en tidigare version. Det är användbart, men kod som är skriven för Shopifys Admin API är fortfarande beroende av Shopify. ...

Omnämnda platser: Shopify, Microsofts, Silicon. Omnämnda personer: Jeremy Morrell.

AI-utvecklingen får hälften av it-säkerhetscheferna att vilja sluta

Ett växande problem Som en följd av dessa och andra faktorer går erfarna ciso:er i pension, byter till mindre stressiga säkerhetsrelaterade befattningar, övergår till konsult- eller säljstödjobb eller lämnar yrket helt och hållet. Det innebär att företagen

Sammanhang: ...En ny möjlighet Mythos-effekten är överdriven, menar Mike Privette, tidigare ciso samt grundare och cybersäkerhetsekonom vid Return on Security. Dessa banbrytande modeller har bara riktat allmänhetens uppmärksamhet mot problem som redan fanns där...

Omnämnda personer: Omar Khawaja, Mike Privette, Chris Kissel.

Anthropic-chefen vill att AI-branschen lättar på gasen

Anthropics vd Dario Amodei vill att AI-branschen sänker tempot för utvecklingen av allt mer avancerade AI-modeller, rapporterar Reuters. I en längre text skriver han att den snabba utvecklingen kan göra det svårare att hinna bygga tillräckliga skydd mot missbruk

Sammanhang: ...Därför förespråkar han även hårdare kontroller av avancerade AI-chipp samt åtgärder mot teknik för att kopiera avancerade modeller....

Omnämnda platser: Amodei, USA, Kina. Omnämnda personer: Sam Altman, Elon Musk.

Från teknikfråga till affärsstrategi: Cybersäkerhet och motståndskraft viktigare än någonsin

När fler medarbetare arbetar i utspridda och ofta mindre säkra miljöer, samtidigt som de använder AI-baserade enheter och tjänster, ställs organisationer inför nya utmaningar. Det handlar bland annat om dataskydd, behörighetsstyrning, digital motståndskraft

Sammanhang: ...Missbruk av fjärråtkomstverktyg som LogMeIn och ScreenConnect, samt så kallade ClickFix-kampanjer, kan få ett angrepp att se ut som helt legitim aktivitet. – Att utnyttja lösningar som är avsedda att stärka säkerheten är både avancerat och skickligt genomfört. ...

Omnämnda personer: Pelle Aardewerk, Wolf Security.

Trögare för svenska techjobben

En ny undersökning från branschorganisationen Techsverige visar att arbetsmarknaden i Sverige släpar efter trots tecken på återhämtning i branschen. Under första kvartalet 2026 fanns 7900 lediga jobb i techbranschen, vilket är 40 procent färre än ett årtidigare.

Sammanhang: ...Samtidigt varslades drygt 5200 personer inom programvara och it-tjänster samt telekom mellan augusti 2025 och juli 2026. Tre av fyra delar av techbranschen växte däremot under första halvåret 2026. ...

Omnämnda platser: Techsverige, Sverige. Omnämnda personer: Christina Ramm-Ericson.