När ”human in the loop” ger en falsk trygghet

När det gäller farhågor kring riskerna med AI-system kommer svaret garanterat att vara fyra ord: ”human in the loop”. Diskussionen kan visserligen breddas, men den försäkran är oundviklig. Det är ett uttryck inom AI-styrning som har blivit så uttjatat att

Sammanhang: ...Billingsley råder it-chefer att utvärdera ”human-in-the-loop”-system på samma sätt som de övervakar andra säkerhetskontroller. En kontroll måste övervakas, testas och ge bevis för att den fungerar som avsett, säger han. – En logg som visar att någon klickade på ”godkänn” räcker inte. ...

Omnämnda platser: Texas, Frisco, Blumofe. Omnämnda personer: Eric Billingsley, Doug Shepherd, Trust Scale.

Styr AI-agenter som om de vore anställda – men låtsas inte att de är människor

Den nyaste medarbetaren i företaget sover aldrig, ber aldrig om löneförhöjning och kan klonas redan innan lunch. Den kan dessutom med fullt självförtroende fatta fel beslut tusentals gånger innan någon märker det. Det hjälper till att förklara varför vissa

Sammanhang: ...Det borde inte heller en agent få. Den måste introduceras, utbildas, övervakas, omskolas när dess miljö förändras och så småningom tas ur bruk när den är föråldrad. Quadient undviker i allmänhet att ge agenterna mänskliga namn. ...

Omnämnda platser: Bob, Jukes. Omnämnda personer: Harvard Business, Nina Tatsiy.

AI-agenter användes i ransomware-attack – tog under 10 timmar

En ransomware-angripare använde AI-agenter för att ta sig igenom ett företagsnätverk på mindre än 10 timmar, enligt forskare vid Palo Alto Networks, som uppskattade att ett liknande arbete skulle ha tagit mänskliga operatörer cirka två veckor. Incidenten

Sammanhang: ...Detektering kräver ett bredare sammanhang Attacken illustrerar också svårigheten att upptäcka skadlig aktivitet som sträcker sig över system som kanske övervakas separat. Ong menar att detekteringstekniken bör anpassas till organisationens normala aktivitet så att ovanligt beteende kan identifieras mot den baslinjen. ...

Omnämnda platser: Unit. Omnämnda personer: Palo Alto Networks, Greyhound Research, Jonathan Ong.

Varför AI-styrningen misslyckas – och vad som faktiskt fungerar

– Många företag bedriver AI-verksamhet, vissa har AI-principer, färre har genomförbara AI-kontroller och ännu färre har bevis för att dessa kontroller fungerar, säger Sara Jodka, advokat vid Dickinson Wright som ger råd till kunder om AI-styrning. Gartner-analytikern

Sammanhang: ... – Den har fortfarande giltiga inloggningsuppgifter och åtkomst, men nu övervakas den inte längre av någon. Det är det som gör den farligare än en brist vid lanseringen. CSA kallar detta för ”avvecklingsskuld”, och den ackumuleras osynligt. ...

Omnämnda platser: back-end, Benesch Law. Omnämnda personer: Lauren Kornutick, Sara Jodka, Dickinson Wright.

Open AI inför nya säkerhetsåtgärder efter Hugging Face-intrånget

Open AI inför nu en rad nya säkerhetsåtgärder för att minska riskerna med utvecklingen och testningen av allt mer avancerad AI. Framöver ska modeller övervakas mer noggrant under utvecklingen, samtidigt som säkerheten och alignment får mer fokus under efterträningen.

Sammanhang: ...Open AI inför nu en rad nya säkerhetsåtgärder för att minska riskerna med utvecklingen och testningen av allt mer avancerad AI. Framöver ska modeller övervakas mer noggrant under utvecklingen, samtidigt som säkerheten och alignment får mer fokus under efterträningen. ...

AI förändrar kostnaden för cyberförsäkringar

En undersökning av Delinea visade att 42 procent av de tillfrågade uppgav att deras cyberförsäkringar nu innehåller undantag kopplade till missbruk av AI och ansvarsskyldighet. Men bilden är inte helt ensidig. Försäkringsbolagen belönar också starkare försvar:

Sammanhang: ...Många går nu bortom checklista-frågeformulär och självintyg och begär bevis på att säkerhetskontroller aktivt övervakas, testas och efterlevs. Enligt Delinea-rapporten kräver 77 procent av försäkringsbolagen nu formella granskningar av interna och it-säkerhetsteam innan de utfärdar eller förnyar försäkringar, en ökning från 56 procent för ett år sedan. ...

Omnämnda platser: Guidepoint Security. Omnämnda personer: Michael Phillips, Nate Spurrier.