Från teknikfråga till affärsstrategi: Cybersäkerhet och motståndskraft viktigare än någonsin

När fler medarbetare arbetar i utspridda och ofta mindre säkra miljöer, samtidigt som de använder AI-baserade enheter och tjänster, ställs organisationer inför nya utmaningar. Det handlar bland annat om dataskydd, behörighetsstyrning, digital motståndskraft

Sammanhang: ...I dag sker arbetet i många olika miljöer och på enheter som behandlar data via molntjänster, internet, AI-verktyg, applikationer och lokalt på hårddisken. Pelle Aardewerk har mer än 25 års erfarenhet av cybersäkerhet och ger råd till bland andra säkerhetschefer, beslutsfattare, revisionskommittéer och myndigheter. ...

Omnämnda personer: Pelle Aardewerk, Wolf Security.

Borde AI vara en valfråga?

Det är drygt en vecka kvar till valet och vad den här märkliga valrörelsen handlar om kan väl knappt de politiska experterna avgöra längre men något som är enkelt att slå fast är att den inte handlar om AI. De flesta partier nämner inte AI alls i sina valmanifest,

Sammanhang: ...Så det som sägs vara den största tekniska revolutionen sedan internet (eller vävstolen) med potential att stöpa om arbetsmarknaden, ekonomin, ja hela samhället, är tydligt frånvarande inför valet. ...

Omnämnda platser: Miljöfrågan. Omnämnda personer: Marcus Jerrängs, Erik Slottner, Computer Sweden.

Vad är egentligen ”öppna” AI-modeller?

Techbranschen stod inför en omvälvning i slutet av 2022 i och med lanseringen av Open AI:s Chat GPT, en enkel chattbot som kunde svara på frågor – nästan som genom ett trollslag. De tidiga banbrytande stora språkmodellerna (LLM) från Open AI och konkurrenter

Sammanhang: ... – Ett företags verkliga behov ligger i specifika arbetsflöden med specifika data, och en sluten allroundmodell som tränats på hela internet är överdimensionerad för de flesta av dem, säger Seth. Kina är en förespråkare för öppen källkod och öppna modeller i takt med att landet i allt högre grad blir en AI-konkurrent till USA. ...

Omnämnda platser: Jensen Huang, Frankrike, Tyskland. Omnämnda personer: Richard Morton, Googles Gemini, Anthropics Claude.

Open AI släpper officiell rapport om Hugging Face-intrånget

Open AI har nu publicerat sin officiella rapport om Hugging Face-intrånget, där en av företagets AI-modeller bröt sig ur sin testmiljö vilket ledde till en omfattande cybersäkerhetsincident. Techcrunch skriver att enligt Open AI började det hela med attAI-modellen

Sammanhang: ...Först komprometterades pakethanteringsverktyget Artifactory, vilket gav modellen tillgång till internet. Därefter tog den sig in i olika system hos bland annat Open AI, Hugging Face och andra leverantörer....

Omnämnda platser: Artifactory.

AI kan upptäcka sårbarheter, men fortfarande inte skriva säker kod

– Eftersom vår forskning handlade om patchning observerade vi snarare en redigeringsprocess än en helt ny skapandeprocess, säger Keith Hoodlet, chef för 1Passwords Off-By-1 Labs. – Därför bör vår forskning och forskningen från Veracode ses som komplementära,

Sammanhang: ... – Vad de borde göra är att skaffa en noggrant utvald, säker datamängd med programkod och träna på den, och säga: ”Glöm all annan kod ni har tränat på, det vill säga den slumpmässiga koden som finns på internet. Gör er av med allt det där”, säger han. – Skaffa licens för den bästa koden ni kan få tag på, kanske från banker eller andra områden som flygelektronik, där koden är känd för att vara säker eftersom den har genomgått noggranna kodgranskningar, och träna enbart på den. ...

Omnämnda platser: Veracode. Omnämnda personer: Keith Hoodlet, Claude Sonnet.

Vibe-kodning pekas ut som en säkerhetsrisk

Analytiker och företagsledare menar att ”vibe-kodning” utgör ett allvarligt säkerhetshot mot företag och kan leda till att data läcker ut till allmänheten. – Den största risken just nu är att hårdkodade hemligheter laddas upp via vibe-kodade applikationer

Sammanhang: ...I många fall kan till exempel verktyg för vibe-kodning synkronisera datafiler med offentliga arkiv som Github, vilket oavsiktligt leder till att interna företagsfiler laddas upp på internet. Den nuvarande hype kring vibe-kodning har ”gjort AI en enorm otjänst”, säger Frank Erickson från 28Stone, ett konsultföretag som utvecklar programvara för kapitalmarknaderna...

Omnämnda platser: Github, USA, Storbritannien. Omnämnda personer: Frank Erickson, Erik Nost, Andrej Karpathy.

Open AI inför nya säkerhetsåtgärder efter Hugging Face-intrånget

Open AI inför nu en rad nya säkerhetsåtgärder för att minska riskerna med utvecklingen och testningen av allt mer avancerad AI. Framöver ska modeller övervakas mer noggrant under utvecklingen, samtidigt som säkerheten och alignment får mer fokus under efterträningen.

Sammanhang: ...En viktig del av de nya skydden är bättre nätverksisolering för att se till så AI-modeller inte får obehörig åtkomst till internet eller andra interna nätverk. De nya säkerhetsåtgärderna sker efter en incident i sommar där Open AI:s AI-agenter bröt sig ut och gjorde ett intrång på AI-plattformen Hugging Face. ...

Snart kan bara AI skydda oss mot AI

Det har gått en månad sedan årets mest uppmärksammade säkerhetsincident och svallvågorna är inte i närheten av att avta. Om de någonsin kommer att göra det. Händelsen beskrivs som ett sådant där avgörande ögonblick där allting förändras. Och den har dessutom

Sammanhang: ...AI-agenternas lösning för att få så hög poäng som möjligt var att hitta en väg ut på internet och sedan hacka Hugging Face för att komma över facit till provet. Hugging Face har en teknisk genomgång av incidenten här och den är väl värd att läsa igenom även om man som jag inte förstår i närheten av allt som står. ...

Omnämnda platser: USA, Kina, Black. Omnämnda personer: Exploit Gym.

Cyberattacker mot vattensystem i minst tolv amerikanska delstater

Flera misstänkta cyberattacker har drabbat vatten- och avsloppssystem i minst tolv amerikanska delstater, rapporterar ABC News. Cyberattackarna ska bland annat låst ute operatörer genom att ändra lösenord eller stänga av larmsystem. Än så länge finns inga

Sammanhang: ...USA:s federala polismyndighet FBI ska uppmanat vattenverken att koppla bort system från internet där det är möjligt och säkerställa att det går att övergå till manuell drift ifall automatiserade system slås ut....

Anthropics AI-modeller hackade tre företag av misstag

Anthropic har inlett en utredning med anledning av en allvarlig incident som inträffade nyligen. Tanken var att testa hur bra Claude Opus 4.7, Claude Mythos 5 och en intern testmodell är på att hitta dold information gällande påhittade företag i simulerade

Sammanhang: ...Men på grund av ett missförstånd hos en av Anthropics samarbetspartners fick AI-modellerna tillgång till internet och lyckades hitta riktiga företag med samma eller liknande namn som de påhittade. Följden blev att tre företag hackades på riktigt, något som inte var avsikten. ...

Omnämnda personer: Claude Mythos, Claude Opus.