När ”human in the loop” ger en falsk trygghet

När det gäller farhågor kring riskerna med AI-system kommer svaret garanterat att vara fyra ord: ”human in the loop”. Diskussionen kan visserligen breddas, men den försäkran är oundviklig. Det är ett uttryck inom AI-styrning som har blivit så uttjatat att

Sammanhang: ...Målet är inte att involvera en människa i varje AI-beslut, tillägger han. – Det handlar om att placera rätt person, med rätt sammanhang och befogenheter, vid rätt punkt i arbetsflödet....

Omnämnda platser: Texas, Frisco, Blumofe. Omnämnda personer: Eric Billingsley, Doug Shepherd, Trust Scale.

Styr AI-agenter som om de vore anställda – men låtsas inte att de är människor

Den nyaste medarbetaren i företaget sover aldrig, ber aldrig om löneförhöjning och kan klonas redan innan lunch. Den kan dessutom med fullt självförtroende fatta fel beslut tusentals gånger innan någon märker det. Det hjälper till att förklara varför vissa

Sammanhang: ...För it-chefer kan lösningen därför vara att fritt låna från handboken för medarbetarhantering – utan att dra metaforen för långt. Placera inte mjukvara i organisationsschemat Amy Loomis, analytiker på IDC, drar en tydlig gräns kring ett ord: ansvar. ...

Omnämnda platser: Bob, Jukes. Omnämnda personer: Harvard Business, Nina Tatsiy.

Hackare lurar nätfiskefilter med osynlig kod

Microsoft har upptäckt att cyberkriminella börjat använda osynliga Unicode-tecken för att dölja nätfiskemejl från säkerhetsfilter, rapporterar Bleeping Computer. Metoden går ut på att placera osynliga Unicode-tecken mitt i ord som säkerhetsfilter kan leta

Sammanhang: ...Microsoft har upptäckt att cyberkriminella börjat använda osynliga Unicode-tecken för att dölja nätfiskemejl från säkerhetsfilter, rapporterar Bleeping Computer. Metoden går ut på att placera osynliga Unicode-tecken mitt i ord som säkerhetsfilter kan leta efter. För en människa ser ordet också normalt ut. ...

AI-agenter användes i ransomware-attack – tog under 10 timmar

En ransomware-angripare använde AI-agenter för att ta sig igenom ett företagsnätverk på mindre än 10 timmar, enligt forskare vid Palo Alto Networks, som uppskattade att ett liknande arbete skulle ha tagit mänskliga operatörer cirka två veckor. Incidenten

Sammanhang: ...Andra agenter genomsökte källkodsförvar efter exponerade inloggningsuppgifter, vilket hjälpte angriparen att få tillgång till ett system för hantering av hemlig information och skaffa sig administratörsbehörighet. ”Angriparen kapade en företagsapplikation via anpassade arbetsflöden för att stjäla åtkomstnycklar till molnet”, uppger Unit 42. ”De försökte placera bakdörrar i Terraform-konfigurationer.” Forskarna uppger att befintliga skyddsåtgärder på filialnivå förhindrade de försökta ändringarna. ...

Omnämnda platser: Unit. Omnämnda personer: Palo Alto Networks, Greyhound Research, Jonathan Ong.

AI-agenter kan tvinga fram en ny design av företagsservrar

Företag som implementerar agentbaserad AI kan behöva en ny generation av AI-servrar, eftersom konventionell GPU-baserad infrastruktur har svårt att effektivt köra AI-arbetsflöden med flera steg, enligt forskare från Microsoft Azure och University of Texas

Sammanhang: ...En arbetsflödesmedveten serverdesign Baserat på dessa resultat föreslår forskarna en serverarkitektur, kallad Agora, som dynamiskt omfördelar CPU- och GPU-resurser, separerar schemaläggning, orkestrering och verktygskörning till dedikerade värdroller samt anpassar resursfördelningen efter arbetsbelastningens beteende. ”Agora utnyttjar dynamiskt lediga CPU-kärnor för samlokaliserat genomströmningsarbete, samtidigt som den skyddar agenternas svanslatens mot verktygstoppar. Den överbelägger också GPU-minnet genom att placera fler agenter på varje GPU och förhämta nästa agents tillstånd för att dölja swap-latensen”, skriver forskarna. ”För att anpassa maskinen till de heterogena rollerna grupperar Agora kärnor efter roll och tillämpar affinitetsmedveten schemaläggning för att återställa lokaliteten. ...

Omnämnda platser: Microsofts, Agora, Austin. Omnämnda personer: Greyhound Research.

Varning för ACR Stealer – stjäl dina lösenord

Microsoft varnar för ACR Stealer, ett skadeprogram som används för att stjäla inloggningsuppgifter, lösenord, autentiseringsfiler och känsliga dokument. Det vanligaste sättet att placera ACR Stealer på en dator är att lura användarna att köra ett kommando

Sammanhang: ...Microsoft varnar för ACR Stealer, ett skadeprogram som används för att stjäla inloggningsuppgifter, lösenord, autentiseringsfiler och känsliga dokument. Det vanligaste sättet att placera ACR Stealer på en dator är att lura användarna att köra ett kommando som laddar ner en skadlig dll-fil från en Webdav-server....

Forskare börjar använda promptinjektioner för att stoppa hackerattacker

Säkerhetsforskare vid Tracebit har tagit fram en ny försvarsmetod som utnyttjar AI-modellers känslighet för så kallade promptinjektioner – samma teknik som cyberkriminella länge använt för att lura AI-system. Metoden, som fått namnet “kontextbombning”, går

Sammanhang: ...Metoden, som fått namnet “kontextbombning”, går ut på att placera särskilda textsträngar tillsammans med falska lösenord och andra lockbeten i exempelvis AWS-miljöer, rapporterar Ars Technica. ...

Omnämnda personer: Ars Technica.

Crowdstrike har slagit ut gigantiskt botnät

Crowdstrike har i samarbete med Google och Shadowserver slagit ut Glassworm, ett omfattande botnät som har existerat sedan 2024. Glassworm har bland annat använts för att stjäla lösenord från utvecklare som ägnar sig åt öppen källkod. I drygt 300 fall

Sammanhang: ...I drygt 300 fall har botnätet även använts för att placera skadlig kod i projekt på Github, rapporterar Techcrunch. ...

Omnämnda platser: Github.

Är ditt företags AI förgiftad?

För många ciso:er är det mycket mer brådskande att hantera dataföroreningar än en hypotetisk förgiftningskampanj. Darren Williams, grundare och vd för Black Fog, säger att detta inte så mycket är ett nytt AI-problem som en återgång till grunderna inom cybersäkerhet.

Sammanhang: ... – Om vi vet att modellerna kommer att skrapa Wikipedia varannan vecka, behöver vi bara vara där under det fönstret, säger han. – Vi kan placera ut lite skadlig data, och då vet vi att den kommer att tas in i modellen. Samma logik gäller inom företaget. ...

Omnämnda platser: Anthropic, Black Fog. Omnämnda personer: Patrick Fussell, Adam Meyers.

Ciso-rollen breddas från cyberrisk till affärsrisk

– Ciso:er kan inte gå omkring och fatta beslut baserade på rädsla eller regelefterlevnad. De måste nu kunna prata om risk i affärstermer. De måste förstå att risk är en affärsdiskussion, säger Leon DuPree, lektor vid Eastern Michigan Universitys School of

Sammanhang: ...Ledande ciso:er gör detta genom att kvantifiera både risken och avkastningen på sina alternativ för att hantera dessa risker, säger DuPree, och påpekar att många använder FAIR-modellen (Factor Analysis of Information Risk) för att förstå och placera cyber- och operativa risker i finansiella termer. – Det är den riktningen som ciso:er försöker gå i, så att de kan underlätta förändring och innovation genom att utgå från avkastningen på alla pengar som spenderas på säkerhetstillgångar och riskminimering, tillägger han. ...

Omnämnda platser: Eastern, Artico Searchs. Omnämnda personer: ciso:er använda sina, Leon DuPree, Steve Martano.