Varför AI-styrningen misslyckas – och vad som faktiskt fungerar

– Många företag bedriver AI-verksamhet, vissa har AI-principer, färre har genomförbara AI-kontroller och ännu färre har bevis för att dessa kontroller fungerar, säger Sara Jodka, advokat vid Dickinson Wright som ger råd till kunder om AI-styrning. Gartner-analytikern

Sammanhang: ... – Om en organisation tidigare var mycket avslappnad i sin AI-användning och en incident inträffar, är det mycket svårare att ta verktyg eller modeller ur drift som tidiga användare var vana vid att använda. De kända okända faktorerna Man kan inte styra det man inte ser. Och de flesta organisationer ser inte så mycket av sin AI-portfölj som de tror. ...

Omnämnda platser: back-end, Benesch Law. Omnämnda personer: Lauren Kornutick, Sara Jodka, Dickinson Wright.

7 sätt att använda AI i den fysiska världen

Förutsättningar för fysisk AI It-chefer som funderar på hur man kan använda fysisk AI bör tänka bortom de människoliknande robotar som väcker stor uppmärksamhet, säger Adnan Masood, chefsarkitekt för AI hos digitaliseringsföretaget UST. – Jag brukar gecio:er

Sammanhang: ...Autonoma fordon och drönare Förhoppningarna om självkörande bilar blev allmänt kända för flera år sedan, och marknaden – skild från marknaden för fysisk AI – beräknades vara värd mer än 200 miljarder dollar år 2025, enligt Global Market Insights. ...

Omnämnda platser: Texas, Chevron, Kneron. Omnämnda personer: Adnan Masood, Boston Dynamics, Vikram Venkat.

Anthropic betalar miljardförlikning i upphovsrättsmål

En federal domstol i USA har godkänt Anthropics förlikning på 1,5 miljarder dollar i en grupptalan där författare anklagat AI-bolaget för att ha använt deras böcker utan tillstånd för att träna AI-modellen Claude. Enligt Reuters är det den största kända förlikningen

Sammanhang: ...En federal domstol i USA har godkänt Anthropics förlikning på 1,5 miljarder dollar i en grupptalan där författare anklagat AI-bolaget för att ha använt deras böcker utan tillstånd för att träna AI-modellen Claude. Enligt Reuters är det den största kända förlikningen hittills i ett amerikanskt upphovsrättsmål. Tvisten är en av flera rättsprocesser där upphovsrättsinnehavare stämt AI-företag för hur stora språkmodeller tränats, och den första större AI-relaterade upphovsrättstvisten i USA som avslutas genom en förlikning. ...

Omnämnda platser: USA.

Microsoft vill att vi installerar säkerhetsfixar inom 3 dagar

Med anledning av Patch Tuesday rekommenderar Microsoft att vi installerar de senaste säkerhetsfixarna så snart som möjligt. – Vi har uppdaterat våra rekommendationer för att installera Windows-uppdateringar till maximalt tre dagar, säger Microsoft 365-chefen

Sammanhang: ...Bakgrunden är att hackare har blivit allt snabbare på att utnyttja kända sårbarheter i Windows, något som delvis kan förklaras med de nya AI-verktygen. Samtidigt har även Microsoft haft nytta av AI-verktygen, något som förklarar varför det täpps till allt fler sårbarheter i Windows 11. ...

Omnämnda platser: Windows. Omnämnda personer: Jeremy Chapman.

Sårbarheter i WordPress-tillägg utnyttjas av hackare

Australian Cyber Security Centre (ACSC) varnar för en global hackarkampanj som riktar in sig på CMS-plattformarna WordPress, Craft, Maxsite, Metinfo och Joomla. I korthet handlar det om att utnyttja kända sårbarheter i ett antal populära tillägg, däribland

Sammanhang: ...Australian Cyber Security Centre (ACSC) varnar för en global hackarkampanj som riktar in sig på CMS-plattformarna WordPress, Craft, Maxsite, Metinfo och Joomla. I korthet handlar det om att utnyttja kända sårbarheter i ett antal populära tillägg, däribland Simple File List, Waveplayer, Ninja Forms och ACF Extended....

Omnämnda platser: Metinfo, Joomla. Omnämnda personer: Australian Cyber Security Centre, Ninja Forms.

Ökänt gäng ligger bakom kampanjen Fortibleed

För en vecka sedan rapporterade vi om Fortibleed, en kampanj där hackare utnyttjar kända sårbarheter i Fortinets brandvägg Fortigate för att stjäla inloggningsuppgifter. Enligt en utredning från SOC Radar Threat Research Unit (STRU) står det nu klart att

Sammanhang: ...För en vecka sedan rapporterade vi om Fortibleed, en kampanj där hackare utnyttjar kända sårbarheter i Fortinets brandvägg Fortigate för att stjäla inloggningsuppgifter. Enligt en utredning från SOC Radar Threat Research Unit (STRU) står det nu klart att kampanjen har utförts av samma gäng som ligger bakom Lynx och INC, två tjänster som använts vid otaliga gisslanattacker. ...

Anthropic anklagar Alibaba för storskalig AI-kopiering

Det amerikanska AI-bolaget Anthropic anklagar nu den kinesiska teknikjätten Alibaba för att ha försökt kopiera företagets AI-teknik genom en omfattande destilleringsattack. Destillering är en metod där en mindre AI-modell tränas med hjälp av svar från enmer

Sammanhang: ...I ett brev till den amerikanska senatens bankutskott hävdar Anthropic att Alibaba genomfört den största kända attacken av sitt slag mot företaget hittills, rapporterar CNBC. Enligt brevet ska operatörer kopplade till Alibaba och bolagets AI-labb genomfört omkring 28,8 miljoner interaktioner med Anthropics AI-modeller mellan den 22 april och 5 juni. ...

Omnämnda platser: Alibaba.

Hackare stjäl lösenord via brandväggar från Fortinet

Enligt en rapport från säkerhetsföretaget SOC Radar har en grupp hackare kommit åt ett stort antal inloggningsuppgifter och lösenord genom att utnyttja kända sårbarheter i Fortinets brandvägg Fortigate. Kampanjen har fått namnet Fortibleed och inleddes

Sammanhang: ...Enligt en rapport från säkerhetsföretaget SOC Radar har en grupp hackare kommit åt ett stort antal inloggningsuppgifter och lösenord genom att utnyttja kända sårbarheter i Fortinets brandvägg Fortigate. Kampanjen har fått namnet Fortibleed och inleddes redan i februari. ...

Omnämnda personer: Fortigate Sniffer.

Du har inte råd att ignorera frågan om AI-styrning

– Agenter kommer att utvecklas på samma sätt. Nivåindelad autonomi är det realistiska svaret: fria tyglar för uppgifter med låga insatser, mänsklig inblandning för de som får konsekvenser. En del av problemet är att agenter har vänt upp och ner på de modeller

Sammanhang: ...Mänsklig inblandning behövs alltid för det som förändras över tid, men vi behöver mindre inblandning för kända vägar och mer fokus på hantering av undantag och finjustering av styrningen. Det räcker inte att observera resultatet Styrningen kan inte bara fokusera på agentens resultat, menar Marcelo Lorenzetti, grundare och Ai-chef på Savvy Lex, en leverantör av AI-tjänster för juridiska tjänster...

Omnämnda platser: Savvy. Omnämnda personer: El Hallak.

Sårbarheter har blivit hackarnas främsta väg in i företagen

Eftersom företag i allt högre grad förlitar sig på externa leverantörer riktar hotaktörer in sig även på den utökade leveranskedjan, och intrång som involverar en tredje part står nu för 48 procent av alla säkerhetsincidenter som omfattas av Verizons DBIR.

Sammanhang: ...AI bidrar redan till hotbilden Även om den senaste DBIR-rapporten använder data från 2025 – före de senaste framstegen inom AI-säkerhetsmodeller som Anthropics Mythos – framgår det ändå av detaljerade efteranalyser av säkerhetsöverträdelser att cyberbrottslingar i allt högre grad förlitar sig på AI. ”AI utnyttjas av hotaktörer för att påskynda tiden för att utnyttja kända sårbarheter, vilket minskar fönstret för försvar från månader till bara timmar”, varnar Verizon. ...

Omnämnda platser: GTIG, Bridewell, Verizons. Omnämnda personer: Cloud Threat Horizons Report, Google Threat Intelligence Group, ciso:er snabbt.