Köp inte konsulternas AI-ramverk

Alla större konsultföretag erbjuder sina egna färdigutvecklade arkitekturramverk, modeller eller referensarkitekturer för generativ AI och agentbaserad AI. Försäljningsargumentet är nästan identiskt från företag till företag: ”Vi har gjort det här förut,vi

Sammanhang: ...Jag listar dessa endast som exempel, inte för en detaljerad granskning; läs om dem och dra dina egna slutsatser. Min oro gäller inte något enskilt ramverk, utan mönstret att behandla ett enda som utgångspunkt. ...

Omnämnda platser: McKinsey.

Vem gav din AI rätten att övervaka mig?

I måndags meddelade den norska regeringen att man avser att införa ett temporärt förbud mot så kallade AI-glasögon på offentliga platser som parker, badstränder, skolor, lekplatser och träningsanläggningar. Orsaken är oron att folk ska filmas, fotograferas

Sammanhang: ...Förutom förbudet i Norge utreds en rad fall i Frankrike där AI-glasögonen använts för sexuella trakasserier, Nederländernas största optikkedja har stoppat försäljningen av Metas glasögon och Europeiska dataskyddsstyrelsen väntas publicera riktlinjer i höst efter en granskning som genomförts. Det här gäller ändå ”bara” smygfilmning, för egentligen vill Meta gå längre än så. ...

Omnämnda platser: Frankrike, Apple, Apple Watch. Omnämnda personer: Apples AI, Marcus Jerrängs, Siri Recap.

Amerikanska FTC ska granska AI-jättarna

Den amerikanska myndigheten Federal Trade Commission (FTC) har inlett en granskning av de stora AI-företagen, däribland Anthropic och Open AI. Syftet är att undersöka om företagens AI-modeller utgör en potentiell fara för konsumenterna och vilka åtgärder

Sammanhang: ...Den amerikanska myndigheten Federal Trade Commission (FTC) har inlett en granskning av de stora AI-företagen, däribland Anthropic och Open AI. Syftet är att undersöka om företagens AI-modeller utgör en potentiell fara för konsumenterna och vilka åtgärder man i så fall behöver vidta för att minimera riskerna....

AI-fel är oundvikliga – och it-chefen får skulden

Även när it-chefer inte har insyn i AI-agenternas agerande eller inte själva väljer leverantör är det troligt att de ändå får ta på sig skulden när något går snett. It-chefer ser redan att detta händer inom sina organisationer, och 52 procent uppger attcio:er

Sammanhang: ...Den modellen – att lägga skulden på cio:n – är inte hållbar, och den leder inte till en styrningsmodell för AI som håller vid en närmare granskning, tillägger Wilson. Eftersom cio:erna får ta smällen måste de bli förespråkare för AI-styrning, säger Watts...

Omnämnda platser: Dataiku. Omnämnda personer: Onyx Security, Morgan Watts, Gil Elbaz.

Google får 4,5 miljarder i GDPR-böter

Irlands dataskyddsmyndighet, Data Protection Commission (DPC) har gett Google böter på 403 miljoner euro, motsvarande 4,5 miljarder kronor, för brott mot EU:s dataskyddsförordning GDPR, rapporterar Reuters. Enligt myndighetens granskning bröt Google motdataskyddsreglerna

Sammanhang: ...Irlands dataskyddsmyndighet, Data Protection Commission (DPC) har gett Google böter på 403 miljoner euro, motsvarande 4,5 miljarder kronor, för brott mot EU:s dataskyddsförordning GDPR, rapporterar Reuters. Enligt myndighetens granskning bröt Google mot dataskyddsreglerna genom sin hantering av användarnas platsdata mellan 2018 och 2020 gällande funktionerna “Web & App Activity”, “Location History” och “Location Accuracy”. ...

Omnämnda platser: Irlands.

AI-agenter måste lära sig när det är nog

Under de senaste åren har AI-program inom företagsvärlden fokuserat på att göra modellerna mer användbara, exakta och autonoma. I den fasen var ett felaktigt svar oftast något som en människa kunde godkänna eller avvisa innan åtgärder vidtogs. Men när agenterna

Sammanhang: ...En enkel buggfix kan kräva en mindre ingående granskning än en ändring av en känslig backend-tjänst, och en personlig sammanfattning medför kanske liten risk. ...

Omnämnda personer: Car Gurus, Matt Quinn, Allan Dabre.

Därför fortsätter företagens AI-projekt att misslyckas

Under de senaste tre åren har jag, i egenskap av oberoende konsult, rådgivare och branschpåverkare inom molntjänster och AI, samarbetat med ett stort antal företag som sökt min expertis. Jag har hjälpt till att utvärdera, optimera, coacha och stödja deras

Sammanhang: ...Den definierar vad som kan gå snabbt, vad som kräver granskning, vad som måste loggas, vad som behöver mänskligt godkännande och vad som aldrig bör automatiseras. ...

Varför den totala ägandekostnaden för AI är så svår att beräkna – och hur man börjar beräkna den

Det är omöjligt att uppnå avkastning på investeringen utan att känna till den totala ägandekostnaden (TCO) för ett initiativ – och när det gäller AI upplever it-chefer att kostnadsberäkningarna är allt annat än enkla. Kostnader för prenumerationer och tokens

Sammanhang: ...Det finns också en personalkostnad som medför ny tid för verifiering och granskning, och om AI:n är slarvig eller skapar fel kan du oavsiktligt öka dina kostnader utan att veta om det. ...

Omnämnda personer: Chris Cagnazzi, Michael Moran, Ben Schein.

AI kan upptäcka sårbarheter, men fortfarande inte skriva säker kod

– Eftersom vår forskning handlade om patchning observerade vi snarare en redigeringsprocess än en helt ny skapandeprocess, säger Keith Hoodlet, chef för 1Passwords Off-By-1 Labs. – Därför bör vår forskning och forskningen från Veracode ses som komplementära,

Sammanhang: ... – Om man kör ett arbetsflöde som går från upptäckt av sårbarheter, till granskning och bedömning, till patchning och validering innan man återgår till upptäckt av sårbarheter – måste man då upprepa den processen tio gånger för att uppnå en 90-procentig eller bättre chans att skapa en robust patch? ...

Omnämnda platser: Veracode. Omnämnda personer: Keith Hoodlet, Claude Sonnet.

Vibe-kodning pekas ut som en säkerhetsrisk

Analytiker och företagsledare menar att ”vibe-kodning” utgör ett allvarligt säkerhetshot mot företag och kan leda till att data läcker ut till allmänheten. – Den största risken just nu är att hårdkodade hemligheter laddas upp via vibe-kodade applikationer

Sammanhang: ...Forskarna föreslog ett ramverk för ”vibe-coding” som innefattar granskning, tolkning och validering av AI-genererad kod som en del av den typiska livscykeln för mjukvaruutveckling. ...

Omnämnda platser: Github, USA, Storbritannien. Omnämnda personer: Frank Erickson, Erik Nost, Andrej Karpathy.