Säkerhetsrisk när utvecklare förlitar sig för mycket på AI

Riskerna med blinda fläckar I takt med att generativ AI blir alltmer integrerad i arbetsflöden för mjukvaruutveckling och säkerhet, oroar sig cybersäkerhetsledare för de blinda fläckar som den potentiellt kan medföra. – AI kan producera kod som ser säker

Sammanhang: ...Han nämner två stora problem: för det första att AI-genererad säkerhetskod kanske inte är skyddad mot nya angreppstekniker och för det andra att den kanske inte återspeglar organisationens specifika säkerhetslandskap och -behov. Dessutom kan AI-genererad kod ge en falsk känsla av säkerhet, eftersom utvecklare, särskilt oerfarna sådana, ofta antar att den är säker som standard. ...

Omnämnda platser: New York University. Omnämnda personer: Don Welch.

Svenskarna är skeptiska till AI

I en global undersökning kring inställningen, upplevelsen, användningen och förväntningar på AI landar Sverige på den nedre halvan enligt en ny studie från EY med 15 060 respondenter från 15 länder. Globalt anser en majoritet, 57 procent, att AI har en positiv

Sammanhang: ...Allra mest oroar sig svenskarna, 78 procent, för att AI ska skapa falsk information i form av exempelvis deepfakes. En oro som också finns globalt där snittet hamnar på 75 procent....

Omnämnda platser: Sverige.

Microsoft patchar Windows-hål som utnyttjats sedan 2023

ESET-forskarna sa att hålet först sågs användas 2023, då det distribuerades på datorer genom ett bakdörrsprogram som heter Pipe Magic. Pipe agic upptäcktes först 2022 och är en plugin-baserad skadlig kod som först användes mot organisationer i Asien och förra

Sammanhang: ...I den senaste kampanjen distribuerades den skadliga programvaran genom en falsk Chat GPT-applikation skriven i Rust. ”Exploiten riktar sig till Windows 8.1 och Server 2012 R2”, säger ESET-forskarna på X. ”Sårbarheten påverkar operativsystem som släpptes före Windows 10 build 1809, inklusive Windows Server 2016 som fortfarande stöds. ...

Omnämnda platser: NTFS, Windows, Rust. Omnämnda personer: Pipe Magic.

Ryskt nätverk fyller populära AI-verktyg med desinformation

En ny granskning från News Guard visar att tio ledande generativa AI-verktyg har avancerat den ryska regeringens propagandamål genom att upprepa falska påståenden från det Moskva-baserade desinformationsnätverket Pravda. Desinformationsnätverket ska arbeta

Sammanhang: ...Desinformationsnätverket ska arbeta genom att överösa sökresultat och webcrawlers med falsk information som förvrider hur stora språkmodeller bearbetar och presenterar nyheter och information. ...

Omnämnda platser: Rysslands, Ukraina. Omnämnda personer: News Guard.

Varning för falsk it-support i Teams

Säkerhetsföretaget Sophos varnar för en ny nätfiskekampanj som riktar in sig på användare av Microsoft Teams. I korthet går det hela till på det viset att hackarna skapat ett konto som kallas för Help Desk Manager och sedan kontaktar de användare för att

Sammanhang: ...Varning för falsk it-support i Teams...

Omnämnda personer: Microsoft Teams, Desk Manager.

BBC kritiserar Apple för felaktig AI-rubrik

Storbritanniens public service-bolag BBC har nu klagat till Apple efter att det amerikanska teknikföretagets nya Iphone-funktion, Apple Intelligence, genererat en falsk rubrik för ett uppmärksammat mord i USA där en man, Luigi Mangione, misstänks för attha

Sammanhang: ...Storbritanniens public service-bolag BBC har nu klagat till Apple efter att det amerikanska teknikföretagets nya Iphone-funktion, Apple Intelligence, genererat en falsk rubrik för ett uppmärksammat mord i USA där en man, Luigi Mangione, misstänks för att ha skjutit sjukförsäkringsbolags-vd:n Brian Thompson. ...

Omnämnda platser: USA, Apple, The New York Times. Omnämnda personer: Apple Intelligence, Luigi Mangione, Brian Thompson.

Därför plockas antispårningsfunktion bort från Firefox

Mozilla låter meddela att Do Not Track, en funktion som är tänkt att förhindra spårning av användarna, plockas bort i och med version 135 av webbläsaren Firefox. Bakgrunden är att allt fler sajter väljer att ignorera Do Not Track, något som innebär att funktionen

Sammanhang: ...Bakgrunden är att allt fler sajter väljer att ignorera Do Not Track, något som innebär att funktionen kan invagga användarna i en falsk känsla av trygghet. Användare som värnar om sin integritet uppmanas att i stället aktivera Global Privacy Control (GPC), en funktion som säger till sajterna att din data inte får delas eller säljas vidare till tredje part. ...

Omnämnda personer: Do Not Track.

AI-vässade cv:n med falska uppgifter ett växande problem

Personer som söker jobb använder sig allt oftare av AI-verktyg för att vässa sina cv:n. Men en del vässar för mycket enligt en ny undersökning från Remote där 4 000 företagsledare i 10 länder, varav 250 från Sverige deltagit. Globalt uppger 73 procent att

Sammanhang: ...Globalt uppger 73 procent att de tagit emot AI-genererade cv:n som består av falsk information och 24 procent att det händer regelbundet – och i Sverige är det ännu vanligare. Här uppger 82 procent att de varit med om det och 28 procent säger att det händer ofta eller alltid. 72 procent tror att AI-genererade cv:n leder till fler underkvalificerade kandidater till jobben och 79 procent ser det som ett betydande problem för sin verksamhet....

Omnämnda platser: Sverige.

Undvik att anställa en nordkoreansk spion

Han greps i Polen i maj och står inför ett utlämningsförfarande till USA. Amerikanska myndigheter har beslagtagit domänen upworksell.com som tillhör mannens företag. KnowBe4 får en lektion i säkerhetsmedvetenhet Hur den här typen av oegentligheter kan se

Sammanhang: ... – Allt detta kommer att spara dig en hel del tid, och om du ser något som inte stämmer vet du att du har att göra med en falsk profil, och det händer ofta, säger Feligno. Brian Jack, KnowBe4:s ciso, håller med om att falska distansanställda och entreprenörer är något som varje organisation måste oroa sig för, och tillägger: – Ciso:er bör granska organisationens anställningsprocesser och se till att deras övergripande riskhanteringsmetoder inkluderar anställning. ...

Omnämnda platser: USA, Bangladesh, Europa. Omnämnda personer: Palo Altos, Palo Alto, Brian Jack.

Nätfiskare har listat ut att alla är rädda för HR

Andra saker som väcker uppmärksamhet och som it-avdelningen måste hålla koll på och söka efter är bland annat ”möjligt stavfel”, ”ändringar i klädkod”, ”Microsoft Teams: (namnet på användarens chef) försöker nå dig”, ”Amazon Prime: Det gick inte att slutföra

Sammanhang: ...Enligt rapporten har inte mycket förändrats när det gäller de viktigaste phishing-strategierna, det vill säga att skapa en falsk brådska och försöka manipulera användarnas känslor. ”Deras strategier utnyttjar ofta mänskliga känslor och syftar till att framkalla känslor av brådska, förvirring, ångest eller till och med spänning, allt i ett försök att locka mottagarna att klicka på skadliga länkar eller öppna skadliga bilagor”, säger KnowBe4 i ett uttalande. ”Dessa är effektiva eftersom de kan få en person att reagera innan man tänker logiskt på e-postmeddelandets legitimitet, och har potential att påverka en anställds personliga liv och professionella arbete.” ...