Smygande risk att AI-agenten får större makt än vad it-chefen tänkt

Det är en avgörande skillnad för cio:er. Att ta bort ett godkännandesteg innebär inte nödvändigtvis dålig styrning. Att ta bort det för att alla gradvis har slutat lägga märke till det gör det däremot. Varningssignalen är när en människa går från att fatta

Sammanhang: ...Varningssignalen är när en människa går från att fatta ett meningsfullt beslut till att bara stämpla ett – och sedan helt försvinner ur arbetsflödet utan att någon omprövar den befogenhet som agenten har fått. Placera kontrollerna utanför modellen När agenterna får större befogenheter kan cio:er inte enbart lita på att agenten följer instruktionerna om vad den ska och inte ska göra. ...

Omnämnda platser: agentens.

Israeliskt företag använde nätannonser för omfattande spionage

En ny undersökning från säkerhetsorganisationerna Citizen Lab och Confidant visar att det israeliska företaget Discover-Tech använt vanliga internetannonser för att identifiera och spåra människor, rapporterar Reuters. Företagets annonser ska marknadsfört

Sammanhang: ...Även teknikföretag som Nvidia och Broadcom ska ha exponerats. Dessutom ska annonserna ha använts för att placera skadlig mjukvara på mobiler tillhörande tv-kanalen Al-Jazeera. Efter avslöjandet har Google stängt av Discover-Tech från sina annonsplattformar. ...

Omnämnda platser: Nato.

När ”human in the loop” ger en falsk trygghet

När det gäller farhågor kring riskerna med AI-system kommer svaret garanterat att vara fyra ord: ”human in the loop”. Diskussionen kan visserligen breddas, men den försäkran är oundviklig. Det är ett uttryck inom AI-styrning som har blivit så uttjatat att

Sammanhang: ...Målet är inte att involvera en människa i varje AI-beslut, tillägger han. – Det handlar om att placera rätt person, med rätt sammanhang och befogenheter, vid rätt punkt i arbetsflödet....

Omnämnda platser: Texas, Frisco, Blumofe. Omnämnda personer: Eric Billingsley, Doug Shepherd, Trust Scale.

Styr AI-agenter som om de vore anställda – men låtsas inte att de är människor

Den nyaste medarbetaren i företaget sover aldrig, ber aldrig om löneförhöjning och kan klonas redan innan lunch. Den kan dessutom med fullt självförtroende fatta fel beslut tusentals gånger innan någon märker det. Det hjälper till att förklara varför vissa

Sammanhang: ...För it-chefer kan lösningen därför vara att fritt låna från handboken för medarbetarhantering – utan att dra metaforen för långt. Placera inte mjukvara i organisationsschemat Amy Loomis, analytiker på IDC, drar en tydlig gräns kring ett ord: ansvar. ...

Omnämnda platser: Bob, Jukes. Omnämnda personer: Harvard Business, Nina Tatsiy.

Hackare lurar nätfiskefilter med osynlig kod

Microsoft har upptäckt att cyberkriminella börjat använda osynliga Unicode-tecken för att dölja nätfiskemejl från säkerhetsfilter, rapporterar Bleeping Computer. Metoden går ut på att placera osynliga Unicode-tecken mitt i ord som säkerhetsfilter kan leta

Sammanhang: ...Microsoft har upptäckt att cyberkriminella börjat använda osynliga Unicode-tecken för att dölja nätfiskemejl från säkerhetsfilter, rapporterar Bleeping Computer. Metoden går ut på att placera osynliga Unicode-tecken mitt i ord som säkerhetsfilter kan leta efter. För en människa ser ordet också normalt ut. ...

AI-agenter användes i ransomware-attack – tog under 10 timmar

En ransomware-angripare använde AI-agenter för att ta sig igenom ett företagsnätverk på mindre än 10 timmar, enligt forskare vid Palo Alto Networks, som uppskattade att ett liknande arbete skulle ha tagit mänskliga operatörer cirka två veckor. Incidenten

Sammanhang: ...Andra agenter genomsökte källkodsförvar efter exponerade inloggningsuppgifter, vilket hjälpte angriparen att få tillgång till ett system för hantering av hemlig information och skaffa sig administratörsbehörighet. ”Angriparen kapade en företagsapplikation via anpassade arbetsflöden för att stjäla åtkomstnycklar till molnet”, uppger Unit 42. ”De försökte placera bakdörrar i Terraform-konfigurationer.” Forskarna uppger att befintliga skyddsåtgärder på filialnivå förhindrade de försökta ändringarna. ...

Omnämnda platser: Unit. Omnämnda personer: Palo Alto Networks, Greyhound Research, Jonathan Ong.

AI-agenter kan tvinga fram en ny design av företagsservrar

Företag som implementerar agentbaserad AI kan behöva en ny generation av AI-servrar, eftersom konventionell GPU-baserad infrastruktur har svårt att effektivt köra AI-arbetsflöden med flera steg, enligt forskare från Microsoft Azure och University of Texas

Sammanhang: ...En arbetsflödesmedveten serverdesign Baserat på dessa resultat föreslår forskarna en serverarkitektur, kallad Agora, som dynamiskt omfördelar CPU- och GPU-resurser, separerar schemaläggning, orkestrering och verktygskörning till dedikerade värdroller samt anpassar resursfördelningen efter arbetsbelastningens beteende. ”Agora utnyttjar dynamiskt lediga CPU-kärnor för samlokaliserat genomströmningsarbete, samtidigt som den skyddar agenternas svanslatens mot verktygstoppar. Den överbelägger också GPU-minnet genom att placera fler agenter på varje GPU och förhämta nästa agents tillstånd för att dölja swap-latensen”, skriver forskarna. ”För att anpassa maskinen till de heterogena rollerna grupperar Agora kärnor efter roll och tillämpar affinitetsmedveten schemaläggning för att återställa lokaliteten. ...

Omnämnda platser: Microsofts, Agora, Austin. Omnämnda personer: Greyhound Research.

Varning för ACR Stealer – stjäl dina lösenord

Microsoft varnar för ACR Stealer, ett skadeprogram som används för att stjäla inloggningsuppgifter, lösenord, autentiseringsfiler och känsliga dokument. Det vanligaste sättet att placera ACR Stealer på en dator är att lura användarna att köra ett kommando

Sammanhang: ...Microsoft varnar för ACR Stealer, ett skadeprogram som används för att stjäla inloggningsuppgifter, lösenord, autentiseringsfiler och känsliga dokument. Det vanligaste sättet att placera ACR Stealer på en dator är att lura användarna att köra ett kommando som laddar ner en skadlig dll-fil från en Webdav-server....

Forskare börjar använda promptinjektioner för att stoppa hackerattacker

Säkerhetsforskare vid Tracebit har tagit fram en ny försvarsmetod som utnyttjar AI-modellers känslighet för så kallade promptinjektioner – samma teknik som cyberkriminella länge använt för att lura AI-system. Metoden, som fått namnet “kontextbombning”, går

Sammanhang: ...Metoden, som fått namnet “kontextbombning”, går ut på att placera särskilda textsträngar tillsammans med falska lösenord och andra lockbeten i exempelvis AWS-miljöer, rapporterar Ars Technica. ...

Omnämnda personer: Ars Technica.

Crowdstrike har slagit ut gigantiskt botnät

Crowdstrike har i samarbete med Google och Shadowserver slagit ut Glassworm, ett omfattande botnät som har existerat sedan 2024. Glassworm har bland annat använts för att stjäla lösenord från utvecklare som ägnar sig åt öppen källkod. I drygt 300 fall

Sammanhang: ...I drygt 300 fall har botnätet även använts för att placera skadlig kod i projekt på Github, rapporterar Techcrunch. ...

Omnämnda platser: Github.