Smygande risk att AI-agenten får större makt än vad it-chefen tänkt

Det är en avgörande skillnad för cio:er. Att ta bort ett godkännandesteg innebär inte nödvändigtvis dålig styrning. Att ta bort det för att alla gradvis har slutat lägga märke till det gör det däremot. Varningssignalen är när en människa går från att fatta

Sammanhang: ... – Det är affärsansvarig som har ansvaret eftersom det är dennes medarbetare som sköter driften, och de är ansvariga för kundrelationen, säger han. Detta skapar en användbar rollfördelning för cio:er: it kan tillhandahålla infrastrukturen och kontrollerna, men verksamheten kan inte lägga ut ansvaret för konsekvenserna av autonoma beslut på någon annan. ...

Omnämnda platser: agentens.

Experter: AI-bolagen struntar i grundläggande cybersäkerhet

Även om pressrapporter och modellleverantörerna själva använder uttryck som ”okontrollerade agenter” eller ”feljustering”, menar cybersäkerhetsexperter att detta språk döljer en enkel sanning: Dessa incidenter orsakades av oförlåtliga brister hos de banbrytande

Sammanhang: ...Demokratiska senatorer har lagt fram lagförslag som skulle göra operatörer av AI-agenter ansvariga för hackningsincidenter. Till och med det AI-vänliga Vita huset verkar ha kommit fram till att företagen bör hållas ansvariga för sina felande agenter, medan den amerikanska Federal Trade Commission genomför en utredning av Anthropic, Open AI och andra AI-laboratorier angående de faror som deras teknik utgör för konsumenterna. ...

Omnämnda platser: RAND. Omnämnda personer: Berryville Institute of Machine Learning, Rob T. Lee, Gary McGraw.

Vem tar voltan när AI-agenten begår brott?

Frågan om AI-säkerhet fortsätter att ”diskuteras” med oförminskad intensitet och utan några större försök att göra saker konkreta eller ens begripliga. Senaste veckan har Bill Gates varit ute och vevat om att AI i fel händer kan orsaka ”en miljard dödsfall”

Sammanhang: ...Det borde till att börja med vara helt självklart att AI-bolagen är ensamt ansvariga för vad deras modeller sysslar med i träning och utveckling, när allt är inom företagens egen räckvidd. ...

Omnämnda platser: Kina, Europa, USA. Omnämnda personer: Marcus Jerrängs, Bill Gates, GPT-6.1 Astra.

AI-styrning håller på att bli en ohanterlig börda

Användningen av AI inom företagen har ökat kraftigt – och it-cheferna arbetar långt in på natten för att hantera riskerna och styrningsfrågorna kring AI-användningen. Det är visserligen positivt att AI-styrningen får allt större uppmärksamhet i företagens

Sammanhang: ...Det är visserligen positivt att AI-styrningen får allt större uppmärksamhet i företagens AI-strategier, vilket innebär en övergång från en ”allt är tillåtet”-strategi till riskmedvetna handlingsplaner inriktade på värdeskapande. Men det betyder också ett merarbete för de ansvariga – i takt med att utmaningarna med agentbaserad AI snabbt ökar. Inte bara ägnar fyra av fem högt uppsatta beslutsfattare inom företagen, däribland cio:er, ciso:er och cdo:er, en större del av sin arbetsdag åt att hantera AI-risker, utan deras arbetstid har i genomsnitt ökat med 26 procent på grund av detta, enligt en ny undersökning som publicerats av One Trust, leverantör av en plattform för AI-styrning. ...

Omnämnda platser: Riskytan, Infosys, USA. Omnämnda personer: One Trusts, Boston Consulting Group, Blake Brannon.

EU-politiker vill göra AI-bolag ansvariga för AI-skador

Fyra ledande EU-parlamentariker vill att EU-kommissionen tar fram en särskild AI Liability Act för att göra utvecklarna bakom de mest avancerade AI-modellerna ansvariga för skador som tekniken orsakar, rapporterar Politico. Ambitionen är att täppa till upplevda

Sammanhang: ...Fyra ledande EU-parlamentariker vill att EU-kommissionen tar fram en särskild AI Liability Act för att göra utvecklarna bakom de mest avancerade AI-modellerna ansvariga för skador som tekniken orsakar, rapporterar Politico. Ambitionen är att täppa till upplevda luckor i dagens lagstiftning och göra det lättare för privatpersoner och företag att kräva ersättning när AI orsakar skada. ...

AI-fel är oundvikliga – och it-chefen får skulden

Även när it-chefer inte har insyn i AI-agenternas agerande eller inte själva väljer leverantör är det troligt att de ändå får ta på sig skulden när något går snett. It-chefer ser redan att detta händer inom sina organisationer, och 52 procent uppger attcio:er

Sammanhang: ... – Cio:er bör inte klandras för varje misstag som en agent begår, men de är ansvariga för att införa effektiv styrning och automatiserade kontroller, tillsammans med ciso:er ur ett säkerhetsperspektiv. ...

Omnämnda platser: Dataiku. Omnämnda personer: Onyx Security, Morgan Watts, Gil Elbaz.

Styr AI-agenter som om de vore anställda – men låtsas inte att de är människor

Den nyaste medarbetaren i företaget sover aldrig, ber aldrig om löneförhöjning och kan klonas redan innan lunch. Den kan dessutom med fullt självförtroende fatta fel beslut tusentals gånger innan någon märker det. Det hjälper till att förklara varför vissa

Sammanhang: ...Men Loomis anser att det är effektivare att tänka i termer av att ge en agent en verksamhetsstadga snarare än en mänsklig identitet: definiera vad systemet gör, vad det får tillgång till och vad människor fortfarande är ansvariga för. Med andra ord: ge agenten ett säkerhetskort. Sätt bara inte en bild på den. Metaforen med den anställde Raja Iqbal, grundare av Ejento AI – ett företag som arbetar med styrning av agentbaserad AI – och medförfattare till HBR-artikeln”To Scale AI Agents Successfully, Think of Them Like Team Members”, ligger närmare Loomis än rubriken antyder. ...

Omnämnda platser: Bob, Jukes. Omnämnda personer: Harvard Business, Nina Tatsiy.

Skärmarna är ett problem men inte skolans problem

Det tog inte många minuter efter att de historiskt dåliga Pisa-resultaten presenterades innan politiker och tyckare red ut mangrant på sina alldeles egna käpphästar för att förklara varför svenska 15-åringars kunskaper i naturvetenskap, läsning och matematik

Sammanhang: ...Hade jag barn i skolåldern skulle förstås min instinkt vara att hålla Chat GPT så långt borta som möjligt från allt vad läxhjälp och skolarbete heter. Nåväl, att skärmar och AI hålls ansvariga för förfallet, inte bara i Sverige, påverkar förstås också de lösningar som pekas ut: mobilförbud i skolan, åldersgräns i sociala medier, fysiska läroböcker istället för digitala, och så vidare. ...

Omnämnda platser: Pisa, Sverige, Estland. Omnämnda personer: Chat GPT, Simona Mohamsson.

AI-agenter måste lära sig när det är nog

Under de senaste åren har AI-program inom företagsvärlden fokuserat på att göra modellerna mer användbara, exakta och autonoma. I den fasen var ett felaktigt svar oftast något som en människa kunde godkänna eller avvisa innan åtgärder vidtogs. Men när agenterna

Sammanhang: ...De är komponenter i affärsprocesser, och dessa processer behöver ansvariga ägare. I takt med att AI-användningen ökar kommer nästa fas av företagens mognad inte att definieras av agenter som alltid svarar eller alltid slutför uppgiften. ...

Omnämnda personer: Car Gurus, Matt Quinn, Allan Dabre.

AI-hajpen är delvis it-chefernas fel

Häromdagen stötte jag på ett inlägg på Linkedin som beskrev begreppet ”hypegineering”, vilket enligt författaren avser det ögonblick då AI-marknadsföring ”blir mer innovativ än själva tekniken”. Inlägget kom från Ralph Aboujaoude Diaz, global chef för GRC

Sammanhang: ...Teknikleverantörer har alltid överdrivit och utelämnat viktig kontext när de inte rentav ljög om sina produkter. Företagen litade på att it-ansvariga skulle skilja verkligheten från bluffen. Men det fanns en avgörande skillnad på den tiden: den högsta ledningen (särskilt vd:ar, ekonomichefer och styrelseledamöter) ägnade inte tekniken särskilt mycket uppmärksamhet. ...

Omnämnda platser: Ralph. Omnämnda personer: Philip Morris.