Kuppen mot Binance en studie i undermålig säkerhet

En kedja av tekniska och mänskliga säkerhetsbrister som hade kunnat undvikas möjliggjorde den största kryptostölden någonsin – stölden av cirka 6,34 miljarder dollar från Binance. Bristfällig övervakning och felaktig åtkomstbegränsning av ett internt AI-verktyg

Sammanhang: ...Det är bra att Binance snabbt kunde upptäcka intrånget, men händelsen väcker frågan om varför en utvecklare överhuvudtaget installerade programvara från ett sökresultat. Har Binance en policy som säger att anställda endast får installera programvara från godkända källor, och upprätthålls denna policy med tekniska kontroller såsom vitlistning av applikationer? ...

Omnämnda platser: Mac OS, ombads, Shlomi Salem. Omnämnda personer: Bri Frost, Tim Chase, Fable Security.

Anthropic släpper nya versioner av Mythos och Fable

Under måndagen presenterades nya versioner av Claude Mythos och Claude Fable, det vill säga Anthropics mest avancerade AI-modeller. Version 5.2 sägs vara uppemot 30 procent snabbare än version 5.1 och dessutom erbjuds diverse förbättringar rörande programmering

Sammanhang: ...Vidare kan nämnas att Fable nu är kompatibel med Zero Data Retention (ZDR), en policy som används av många företag och organisationer. Ett annat dragplåster är att kommunikationen med användarna ska vara betydligt tydligare jämfört med tidigare, rapporterar Techcrunch. ...

Omnämnda personer: Claude Fable.

AI-agenter vänder upp och ner på digitala affärsprocesser

Folk har upptäckt AI-agenter som körs på molnbaserade plattformar, och plötsligt är dessa agenter lösningen på alla finansiella och praktiska problem i deras liv. Flytta pengar från ett bankkonto till ett annat för att få en bättre ränta. Betala räkningar

Sammanhang: ...Var och en behöver en riskklassificering och en policy för delegerad automatisering. Den andra uppgiften är att skapa en tydlig åtkomstmodell. Låt inte detta gömmas i en vag anti-bot-klausul. ...

Smygande risk att AI-agenten får större makt än vad it-chefen tänkt

Det är en avgörande skillnad för cio:er. Att ta bort ett godkännandesteg innebär inte nödvändigtvis dålig styrning. Att ta bort det för att alla gradvis har slutat lägga märke till det gör det däremot. Varningssignalen är när en människa går från att fatta

Sammanhang: ...En separat verifierare jämför sedan bevisen från agentens åtgärder mot den policy som definierats av människor. – Det man vill undvika här är en rekursiv situation där man har en räv som vaktar hönshuset, eller där agenten granskar sitt eget arbete, säger Wang. ...

Omnämnda platser: agentens.

Köp inte konsulternas AI-ramverk

Alla större konsultföretag erbjuder sina egna färdigutvecklade arkitekturramverk, modeller eller referensarkitekturer för generativ AI och agentbaserad AI. Försäljningsargumentet är nästan identiskt från företag till företag: ”Vi har gjort det här förut,vi

Sammanhang: ...För att ge en tydlig bild av vad som finns på marknaden just nu är det på sin plats med en kort lista: McKinsey publicerar en öppen referensarkitektur för skalning av generativ AI, uppbyggd kring återanvändbara applikationsmönster såsom kunskapshantering, chattbotar för kunder och agentbaserade arbetsflöden, samt delade tjänster för retrieval-augmented generation (RAG), inbäddning, omrankning och avsiktsklassificering, sammanbundna med infrastruktur som kod och policy som kod. Deloitte har publicerat en AI-agentarkitektur, ett ramverk för multiagent-system och en plan för ett ”agentbaserat företag” som positionerar autonoma agenter som företagets operativa logik. ...

Omnämnda platser: McKinsey.

De tror faktiskt på AI-apokalypsen

”Jacob har rätt här – vi tror verkligen uppriktigt att AI skulle kunna utrota hela mänskligheten! Personligen tror jag att sannolikheten är >10 % inom det kommande decenniet. Jag tror att Anthropic gör sitt bästa, men vi har ännu ingen plan för att lösa problemet

Sammanhang: ...Ja, det beror på ens perspektiv. Ur ett samhälls-, säkerhets- och policy-perspektiv gör man ändå bäst i att hålla i sär riskerna, menar jag. AI-modeller som på grund av bristande styrning, eller illvillig mänsklig styrning, ställer till med problem är en risk här och nu, det har vi sett bevis på. ...

Omnämnda platser: Slate, Lesswrong, Amodei. Omnämnda personer: Donald Trump, Elon Musk, Jacob Coxon.

Zero trust har ett stort AI-problem

Trots att de i många år har hyllat zero trust-modellen har många ciso:er haft svårt att genomföra ramverket fullt ut. Och nu kommer det som kan bli den sista spiken i kistan: agentbaserad AI. Kan zero trust samexistera med autonoma agenter i typiska företagsmiljöer?

Sammanhang: ...Typ 2-beslut, där konsekvenserna är reversibla, är mycket säkrare att delegera än typ 1-beslut såsom att radera produktionsdata, ändra IAM-policy, överföra medel eller göra oåterkalleliga infrastrukturförändringar. Brian Vecci, fält-cto på Varonis, hävdar att situationen för agenterna är värre än de flesta tror. ...

Omnämnda platser: fält-cto, Varonis, Vecci. Omnämnda personer: ciso:er någonsin, Brian Vecci, Mike Wilkes.

Här bygger svenska experter Europas AI-förmåga

I EU-institutioner arbetar svenska och andra europeiska IKT-experter med frågor där teknik, säkerhet, lagstiftning och samhällsintressen möts. Det kan handla om att utveckla AI-lösningar, hantera säkerhetsrisker eller bygga tekniska förmågor som fungeraröver

Sammanhang: ...Jörgen Gren är direktör teknologiutveckling vid Europeiska kommissionens generaldirektorat för översättning. Magnus Josefsson arbetar som policy officer på AI Office vid Europeiska kommissionen. Båda har en bakgrund som tekniska specialister och har valt att använda sin kompetens på EU-nivå. ...

Omnämnda platser: Luxemburg, Europas, Bologna. Omnämnda personer: Jörgen Gren, Magnus Josefsson.

Ge dina AI-agenter en veckopeng

Alla inom teknikbranschen är entusiastiska över agentbaserad AI. Åtminstone ända fram till det ögonblick då agenten börjar agera mindre som en underordnad och mer som en herre. Till exempel var en av mina vänner med mig och tittade på en fotbollsmatch under

Sammanhang: ...Men delegerad utgiftsbehörighet säger: ”Du får spendera X, för ändamål Y, på uppdrag av Z, under dessa villkor.” Det kräver identitet, policy, återkallande och en förteckning över vem som godkänt vad. Det här är inte vägledning gömd i en prompt; det är en verkställbar utgiftspolicy Tänk på vad detta innebär. ...

Omnämnda personer: Jack Clark.

AI-riktlinjer fungerar bättre när medarbetarna är med och utformar dem

Även de anställda som har tagit till sig AI som ett hjälpmedel i sitt arbete har anledning att oroa sig. Många säger att användningen av generativa AI-verktyg sparar tid, men tidsbesparingen äts upp av ”botsitting” – att behöva kontrollera och dubbelkontrollera

Sammanhang: ...En bra policy hjälper medarbetarna att bättre förstå att AI inte bara innebär risker, utan även möjligheter....

Omnämnda platser: Dice. Omnämnda personer: Monica Washington Rothbaum, Paul Farnsworth, Amy Loomis.