De tror faktiskt på AI-apokalypsen

”Jacob har rätt här – vi tror verkligen uppriktigt att AI skulle kunna utrota hela mänskligheten! Personligen tror jag att sannolikheten är >10 % inom det kommande decenniet. Jag tror att Anthropic gör sitt bästa, men vi har ännu ingen plan för att lösa problemet

Sammanhang: ...Amodei fick snart medhåll av både Open AI:s Sam Altman och Elon Musk – vilket i sig är anmärkningsvärt eftersom samtliga inblandade inte direkt gillar varandra – och plötsligt var frågan om det som kallas ”AI safety” högst på den globala agendan där såväl Donald Trump som EU-kommissionen uttalat sig. Begränsa AI? Bromsa utvecklingen? (Trump emot, EU för). Så vad är det som händer? Varningarna har hörts förut, så varför har det här blivit en fråga just nu? ...

Omnämnda platser: Slate, Lesswrong, Amodei. Omnämnda personer: Donald Trump, Elon Musk, Jacob Coxon.

Från teknikfråga till affärsstrategi: Cybersäkerhet och motståndskraft viktigare än någonsin

När fler medarbetare arbetar i utspridda och ofta mindre säkra miljöer, samtidigt som de använder AI-baserade enheter och tjänster, ställs organisationer inför nya utmaningar. Det handlar bland annat om dataskydd, behörighetsstyrning, digital motståndskraft

Sammanhang: ...Det är de som vet vad som behöver skyddas mest, kan begränsa konsekvenserna och har övat på hur organisationen ska återhämta sig på ett effektivt sätt, avslutar Pelle Aardewerk....

Omnämnda personer: Pelle Aardewerk, Wolf Security.

EU:s cybermyndighet får tillgång till Mythos 5 – efter flera månader

EU:s cybersäkerhetsmyndighet Enisa har efter flera månader av förhandlingar fått tillgång till Anthropics kraftfulla AI-modell Mythos 5, rapporterar Bloomberg. Enisa har nu börjat testa modellen, som Anthropic tidigare begränsa till en mindre grupp organisationer.

Sammanhang: ...Enisa har nu börjat testa modellen, som Anthropic tidigare begränsa till en mindre grupp organisationer. Mythos presenterades i april och uppges vara särskilt kapabel vad gäller att upptäcka säkerhetsbrister i datorsystem. ...

Uppgifter: Microsoft ska tredubbla sin datacenterkapacitet

Enligt uppgifter till Bloomberg planerar Microsoft att mer än tredubbla sin globala datacenterkapacitet de kommande åren. Målet är att nå över 38 gigawatt år 2032, jämfört med omkring 12 gigawatt i dag. Bakgrunden är att Microsoft haft svårt att möta den

Sammanhang: ...Bristen på datorkapacitet har gjort att företaget tvingats begränsa nya molnabonnemang i en del regioner. Detta har gjort att kunder i vissa fall gått över till konkurrenter. ...

Omnämnda platser: Microsofts.

Dustin drabbat av dataintrång – nätbutiken stängd

Uppdatering: På tisdagen 8 september meddelade Dustin att man påbörjat en stegvis återställning av berörda system, på vad man beskriver som ett kontrollerat och säkert sätt. Företaget har kunnat återstarta orderflödet vilket innebor att kunder kan läggabeställningar

Sammanhang: ...Händelsen bedöms som allvarlig och åtgärder har nu vidtagits för att begränsa konsekvenserna. Bland annat en tillfällig nedstängning av vissa system. I en kommentar till TT säger Dustins informationschef, Eva Ernfors, att det innebär att nätbutiken är stängd och att kunder inte kan handla eller varor levereras...

Omnämnda personer: Eva Ernfors, Dustin Group.

AI-agenter användes i ransomware-attack – tog under 10 timmar

En ransomware-angripare använde AI-agenter för att ta sig igenom ett företagsnätverk på mindre än 10 timmar, enligt forskare vid Palo Alto Networks, som uppskattade att ett liknande arbete skulle ha tagit mänskliga operatörer cirka två veckor. Incidenten

Sammanhang: ...Den centrala frågan för säkerhetsansvariga är om angripare nu kan agera snabbare än vad befintliga kontroller klarar av att begränsa dem. Ett praktiskt test är att jämföra hur snabbt en realistisk attackväg kan nå ett kritiskt system med hur lång tid organisationen faktiskt tar på sig att upptäcka och begränsa den. ...

Omnämnda platser: Unit. Omnämnda personer: Palo Alto Networks, Greyhound Research, Jonathan Ong.

Ge dina AI-agenter en veckopeng

Alla inom teknikbranschen är entusiastiska över agentbaserad AI. Åtminstone ända fram till det ögonblick då agenten börjar agera mindre som en underordnad och mer som en herre. Till exempel var en av mina vänner med mig och tittade på en fotbollsmatch under

Sammanhang: ...Som jag har skrivit på senare tid bygger den bästa AI:n på att använda data effektivt för att informera och ”begränsa” agentbaserade system. Auktoritet måste följa omdöme Forskningen lyfter fram en distinktion som ofta suddas ut i diskussionen om agentisk AI. ...

Omnämnda personer: Jack Clark.

AI kan upptäcka sårbarheter, men fortfarande inte skriva säker kod

– Eftersom vår forskning handlade om patchning observerade vi snarare en redigeringsprocess än en helt ny skapandeprocess, säger Keith Hoodlet, chef för 1Passwords Off-By-1 Labs. – Därför bör vår forskning och forskningen från Veracode ses som komplementära,

Sammanhang: ...De viktigaste stegen – att slå samman ändringar och testa dessa ändringar – bör förbli kodägarnas ansvar, säger Kwak. Mänsklig validering kommer att begränsa hur snabbt organisationer kan godkänna AI-genererade ändringar, särskilt när agenterna producerar mer kod och fler kandidater till patchar. ...

Omnämnda platser: Veracode. Omnämnda personer: Keith Hoodlet, Claude Sonnet.

Microsoft vill att du ska göra om din strategi för cyberförsvar

Som bevis förklarade Weston hur Microsoft Security Response Center (MSRC) fördubblar antalet sårbarheter som man hanterar och åtgärdar var sjätte vecka. – Det är en otrolig siffra. Vi hanterar nio gånger så många sårbarheter som vi gjorde i mars. Den allt

Sammanhang: ...Weston tillade: – Vi kan flytta processen tidigare i utvecklingskedjan och skapa säkrare programvara. Det kommer att begränsa sårbarheten. Att upptäcka attacker är fortfarande viktigt, men räcker inte längre. Både företag och leverantörer bör satsa på hållbarhet...

Omnämnda platser: USA, Black, Microsofts. Omnämnda personer: Microsoft Security, Projects Agency.