Open AI: Nya Astra når “kritisk” nivå av cyberförmåga

Open AI uppger att företagets kommande AI-modell Astra är den första att passera den högsta risknivån för cybersäkerhet enligt bolagets eget säkerhetsramverk, rapporterar CNBC. Detta innebär att Astra på egen hand kan hitta tidigare okända säkerhetsbrister

Sammanhang: ...Detta innebär att Astra på egen hand kan hitta tidigare okända säkerhetsbrister och utnyttja dem, utan stegvisa instruktioner från människor. Trots riskklassningen planerar Open AI att släppa Astra snart, men tillgången till modellens mest avancerade cybersäkerhetsförmågor kommer att begränsas. ...

Open AI släpper officiell rapport om Hugging Face-intrånget

Open AI har nu publicerat sin officiella rapport om Hugging Face-intrånget, där en av företagets AI-modeller bröt sig ur sin testmiljö vilket ledde till en omfattande cybersäkerhetsincident. Techcrunch skriver att enligt Open AI började det hela med attAI-modellen

Sammanhang: ...Techcrunch skriver att enligt Open AI började det hela med att AI-modellen ställdes inför en uppgift som inte gick att lösa på avsett sätt. Modellen började då kombinera tidigare okända säkerhetsbrister för att kringgå begränsningarna och slutföra uppgiften. Först komprometterades pakethanteringsverktyget Artifactory, vilket gav modellen tillgång till internet. ...

Omnämnda platser: Artifactory.

Varför AI-styrningen misslyckas – och vad som faktiskt fungerar

– Många företag bedriver AI-verksamhet, vissa har AI-principer, färre har genomförbara AI-kontroller och ännu färre har bevis för att dessa kontroller fungerar, säger Sara Jodka, advokat vid Dickinson Wright som ger råd till kunder om AI-styrning. Gartner-analytikern

Sammanhang: ... – Om en organisation tidigare var mycket avslappnad i sin AI-användning och en incident inträffar, är det mycket svårare att ta verktyg eller modeller ur drift som tidiga användare var vana vid att använda. De kända okända faktorerna Man kan inte styra det man inte ser. Och de flesta organisationer ser inte så mycket av sin AI-portfölj som de tror. ...

Omnämnda platser: back-end, Benesch Law. Omnämnda personer: Lauren Kornutick, Sara Jodka, Dickinson Wright.

Snart kan bara AI skydda oss mot AI

Det har gått en månad sedan årets mest uppmärksammade säkerhetsincident och svallvågorna är inte i närheten av att avta. Om de någonsin kommer att göra det. Händelsen beskrivs som ett sådant där avgörande ögonblick där allting förändras. Och den har dessutom

Sammanhang: ...I de flesta fall har det rört sig om brister i sandlådornas konstruktion som gjort utbrytningarna möjliga, men Hugging Face-fallet sticker ut eftersom agenterna hittade tidigare okända sårbarheter och utvecklade egna zero day-exploits för att ta sig ut på internet. Därmed inte sagt att Open AI är utan skuld, AI-företaget har uppenbart misslyckats med att sätta ramarna för agenternas arbete och kanske framför allt låtit dem härja ”på egen hand” under lång tid i princip helt utan övervakning. ...

Omnämnda platser: USA, Kina, Black. Omnämnda personer: Exploit Gym.

Anthropic har råkat läcka källkoden till Claude Code

Anthropic låter meddela att man av misstag har råkat läcka ut källkoden till det populära kodverktyget Claude Code. – En version av Claude Code innehöll delar av den interna källkoden. Inga känsliga kunddata eller inloggningsuppgifter var inblandade eller

Sammanhang: ...Källkoden i fråga består av drygt 1 900 filer och 500 000 rader kod som bland annat innehåller referenser till tidigare okända funktioner. ...

Omnämnda personer: Claude Code.

AI-budgetar skjuter i höjden, men ROI fortfarande svårmätt

Den första är breda produktivitetsplattformar – vad han kallar ”vardags-AI” – som hjälper anställda att skriva, söka, sammanfatta eller analysera information. Dessa verktyg kan vara kulturellt transformativa, men de är notoriskt svåra att kvantifiera. Engagemangsmätningar

Sammanhang: ...I praktiken, säger han, förbättrar styrning avkastningen genom att avslöja okända risker och optimeringsmöjligheter. När organisationer inför strukturerad validering och övervakning identifierar de ofta sätt att förbättra noggrannhet, robusthet och effektivitet – vilket direkt förbättrar affärseffekten. ...

Omnämnda personer: Black Line, Anthony Habayeb, Jim Olsen.

Dödsbedrägerier ett växande AI-hot

Onlinekonton innehåller ofta en mängd värdefull data, såsom användarens hemadress, lagrad betalkortsinformation och andra inloggningsuppgifter, relationsdata inklusive adresser till släktingar och foton taggade med personers namn. Bedragaren kan använda den

Sammanhang: ...När det gäller internationella anspråk kan dokumenten komma från domstolar i olika länder med okända juridiska format. Dödsattester och arvskiftesbeslut kan utfärdas på olika språk, säger Gogia. – Kundsupportteam har sällan den expertis som krävs för att verifiera dessa dokument med fullständig säkerhet. ...

Omnämnda platser: Sailpoint, Bob, McKinsey. Omnämnda personer: Info-Techs Howden, Greyhounds Gogia, Justin Greis.

Nya säkerhetsfunktioner läggs till i Whatsapp

Under tisdagen lanserades ”Strict Account Settings”, en ny inställning om aktiverar en rad säkerhetsfunktioner i den populära meddelandeappen Whatsapp. Det handlar bland annat om att blockera filer och bilagor från okända avsändare, avaktivera förhandsvisning

Sammanhang: ...Det handlar bland annat om att blockera filer och bilagor från okända avsändare, avaktivera förhandsvisning av länkar och tysta samtal från okända uppringare. Syftet med den nya inställningen är att minska risken för användarna att bli hackade, lurade eller övervakade, och enligt Whatsapp riktar sig funktionerna inte minst mot extra utsatta användare som aktivister och journalister. ...

Här är ciso:ernas säkerhetsprioriteringar inför 2026

AI är redan en del av cyberriskplaneringen hos Aflac, säger Tim Callahan, global ciso, som förväntar sig att användningen kommer att öka ytterligare under 2026. Redan nu utnyttjar hans team AI och maskininlärning för hotdetektering och respons samt identifiering

Sammanhang: ...Bland fördelarna finns: snabbare identifiering av okända hot (44 procent) snabbare upptäckt och respons (42 procent) möjlighet att snabbare gå igenom stora mängder data (42 procent) minskad arbetsbelastning för anställda tack vare automatisering (42 procent) och möjlighet att vara mer proaktiv (42 procent). ...

Omnämnda platser: Nordamerika, Microsofts, Aflac. Omnämnda personer: Tim Callahan, ciso:er verkligen.

Offensiv säkerhet får central roll i AI-eran

– Vi ser att många teknikleverantörer lanserar funktioner på marknaden för att stödja denna proaktiva, eller offensiva, strategi, säger Mellen. Utmaningar för offsec-verksamhet Ändå har många säkerhetsavdelningar ännu inte infört ett omfattande offensivt

Sammanhang: ... – ”Det du inte vet i säkerhetsvärlden kan döda dig, så det offensiv säkerhet gör för mig är att den hjälper mig att identifiera det okända. Och när jag väl vet att något finns där kan jag mildra det. Dunnion har redan vissa offsec-komponenter i sin cyberstrategi, bland annat sårbarhetshantering, penetrationstestning och hotjakt, men vill utöka dessa funktioner. ...

Omnämnda platser: Mitel, Deloitte Canada. Omnämnda personer: Aimee Cardwell, Bill Dunnion, Health Group.