Ge dina AI-agenter en veckopeng

Alla inom teknikbranschen är entusiastiska över agentbaserad AI. Åtminstone ända fram till det ögonblick då agenten börjar agera mindre som en underordnad och mer som en herre. Till exempel var en av mina vänner med mig och tittade på en fotbollsmatch under

Sammanhang: ...När skyddsräcken inte räcker Oavsett hur ”smarta” agenterna blir finns det vissa områden där denna strategi med ”begränsad autonomi” kanske inte fungerar. Ny forskning tyder till exempel på att agenterna saknar ”omdömet som krävs för att bedriva öppen research”. ...

Omnämnda personer: Jack Clark.

Varför AI-styrningen misslyckas – och vad som faktiskt fungerar

– Många företag bedriver AI-verksamhet, vissa har AI-principer, färre har genomförbara AI-kontroller och ännu färre har bevis för att dessa kontroller fungerar, säger Sara Jodka, advokat vid Dickinson Wright som ger råd till kunder om AI-styrning. Gartner-analytikern

Sammanhang: ...Mer än två tredjedelar (68 procent) av de som svarade på CSA:s enkät uttryckte stor tillförsikt när det gäller sin insyn i AI-agenter, men 82 procent rapporterade också att de hade upptäckt dolda AI-agenter under det föregående året. Hillary Baron, chef för forskning vid CSA, kallar detta en blind fläck som maskerar sig som självförtroende. – Organisationer har god insyn i de agenter de känner till, och det är lätt att missta det för att man ser allt, säger Baron...

Omnämnda platser: back-end, Benesch Law. Omnämnda personer: Lauren Kornutick, Sara Jodka, Dickinson Wright.

AI kan upptäcka sårbarheter, men fortfarande inte skriva säker kod

– Eftersom vår forskning handlade om patchning observerade vi snarare en redigeringsprocess än en helt ny skapandeprocess, säger Keith Hoodlet, chef för 1Passwords Off-By-1 Labs. – Därför bör vår forskning och forskningen från Veracode ses som komplementära,

Sammanhang: .... – Därför bör vår forskning och forskningen från Veracode ses som komplementära, snarare än att de utvärderar samma utmaningar. ...

Omnämnda platser: Veracode. Omnämnda personer: Keith Hoodlet, Claude Sonnet.

Microsoft vill att du ska göra om din strategi för cyberförsvar

Som bevis förklarade Weston hur Microsoft Security Response Center (MSRC) fördubblar antalet sårbarheter som man hanterar och åtgärdar var sjätte vecka. – Det är en otrolig siffra. Vi hanterar nio gånger så många sårbarheter som vi gjorde i mars. Den allt

Sammanhang: ... – Det har fungerat mycket bättre än vi någonsin trodde, sa Weston, som leder Microsofts forskning inom AI för upptäckt av sårbarheter och banbrytande modeller. Tidigare var tanken att det var ”väldigt dyrt att koda ett ramverk eller ett implantat, så folk fortsätter bara att använda packers och förvrängningsverktyg på samma saker, och de fortsätter att använda samma TTP, så vi arbetar mot det. ...

Omnämnda platser: USA, Black, Microsofts. Omnämnda personer: Microsoft Security, Projects Agency.

Open AI visar upp ultrasnabb version av GPT-5.6 Sol

Open AI låter meddela att en ”ultrasnabb” version av AI-modellen GPT-5.6 Sol kommer lanseras för företagsanvändare inom kort . Den nya versionen sägs vara 14 gånger så snabb som den nuvarande och kan generera uppemot 750 ”output tokens” per sekund. Målgruppen är framför allt företag och organisationer som ägnar sig åt support, handel, forskning och säkerhet. Intresserade företag uppmanas att skriva upp sig på en väntelista , detta då tillgången är begränsad till en början.

Sammanhang: ...Målgruppen är framför allt företag och organisationer som ägnar sig åt support, handel, forskning och säkerhet. Intresserade företag uppmanas att skriva upp sig på en väntelista , detta då tillgången är begränsad till en början. ...

AI hittar så många säkerhetsbrister i Windows att Microsoft inte hinner med

Var försiktig med vad du önskar dig. Det fick Microsoft nyligen erfara när man upptäckte att AI – istället för att göra Windows säkrare genom att hjälpa företaget att täppa till säkerhetshål – kunde hjälpa hackare att hitta brister snabbare än Microsoft hinner

Sammanhang: ...Mythos och Project Glasswing Microsofts AI-relaterade säkerhetsproblem är en följd av lanseringen av Anthropics AI-modell Mythos, som är utformad för att hantera cybersäkerhet och biologisk forskning. Ett av målen är att upptäcka säkerhetsbrister så snabbt som möjligt, så att mjukvaruföretag och cybersäkerhetsföretag kan åtgärda dem innan hackare hittar luckorna. ...

Omnämnda platser: Nvidia, Patch, Council. Omnämnda personer: Ron Wyden, Pro Publica, Nuclear Security.

Cyberbrottslingar blir allt bättre på AI

Allt fler bevis framkommer om hur AI håller på att bli en del av cyberbrottslingarnas dagliga arbetsflöde – från att utveckla och förfina verktyg till att hantera infrastruktur och påskynda forskningen kring sårbarheter. Med utgångspunkt i återvunna promptloggar,

Sammanhang: ...Med utgångspunkt i återvunna promptloggar, attackverktyg och konversationer mellan hotaktörer dokumenterar en undersökning från Cisco Talos hur AI används för att utveckla skadlig kod, bygga upp infrastruktur för bedrägerier samt påskynda forskning om och utnyttjande av sårbarheter. Studien, som publicerades under Black Hat USA-konferensen, visar att AI-systemens säkerhetsbarriärer ofta var ineffektiva. ...

Omnämnda platser: Crowdstrikes, AI-säkerhets-, Studien. Omnämnda personer: Adam Meyers, Snarky Spider, Håkon Måløy.

Open AI bygger ut sina cybersäkerhetstjänster – släpper ny AI-modell

Open AI utökar nu sin cybersäkerhetstjänst Daybreak som lanserades tidigare i år. Tjänsten som samlar AI-modeller, verktyg och arbetsflöden för cybersäkerhet delas nu upp i två nivåer, “Blue” och “Red”. Blue riktar sig till de flesta företag och organisationer

Sammanhang: ...Red är mer avancerad och innehåller modeller som är särskilt tränade för säkerhetstester och forskning kring sårbarheter....

Google möblerar om i AI-toppen

Google och Alphabet meddelar att de nu genomför en större omorganisation av sin AI-verksamhet. Veteranen Jeff Dean, som arbetat på företaget i 27 år och senast var Googles chefsforskare, lämnar nu sin roll. Istället har han och Google-forskaren Sanjay Ghemawat

Sammanhang: ...Samtidigt lämnar Deepmind-grundaren Demis Hassabis det operativa ansvaret för Google Deepmind för att istället fokusera på den långsiktiga utvecklingen av artificiell generell intelligens (AGI) och vetenskaplig forskning. Hassabis blir nu styrelseordförande för Google Deepmind och tillträder samtidigt som chefsforskare för Alphabet....

Omnämnda platser: Alphabet. Omnämnda personer: Google Deepmind, Discovery Loop, Demis Hassabis.

Microsoft har skurit ner rejält på produktutvecklingen

Microsofts senaste årsredovisning visar att det totala antalet anställda på företaget minskade med 5 000 personer till 223 000 under räkenskapsåret som avslutades den 30 juni. Geekwire uppmärksammar att det är den största minskningen sedan 2016, när Microsoft

Sammanhang: ...Minskningen är extra tydlig inom produktutveckling och forskning (R&D) där antalet anställda sjönk med 3 000 personer till 77 000. Det är andra året i rad som antalet utvecklingsroller minskat, efter en toppnotering på 81 000 personer under 2024. ...

Omnämnda platser: Microsofts.