Kundtjänstbotar utnyttjas av AI-snyltare – och det kan bli dyrt

– Företag som förlitar sig på passiva kontroller kommer att se kostnaderna skena iväg. Företag som bygger in aktiv styrning i sin arkitektur kommer att behålla kontrollen. Detta är den verkliga förändringen som pågår. Generativ AI går från experiment till

Sammanhang: ...För många cio:er beror graden av huruvida Kales två farhågor – okontrollerade kostnader och botar som oreglerade slutpunkter – stämmer på både deras specifika implementeringar och kontrakt med AI-leverantörer. Här ser Gartners analytiker Nader Henein att leverantörernas nuvarande prisnivåer mildrar effekten av sådana jailbreaking-försök. – De flesta stora organisationer har antingen en obegränsad plan eller kör sina LLM:er internt, så jag tvivlar på att detta kommer att ruinera dem, säger han. ...

Omnämnda platser: AISec, Greyhounds Gogia. Omnämnda personer: Nader Henein, Gary Longsine, Sally Evans.

Dödsbedrägerier ett växande AI-hot

Onlinekonton innehåller ofta en mängd värdefull data, såsom användarens hemadress, lagrad betalkortsinformation och andra inloggningsuppgifter, relationsdata inklusive adresser till släktingar och foton taggade med personers namn. Bedragaren kan använda den

Sammanhang: ... – Jag kanske vill att en del av den informationen ska förstöras, en del ska gå till min fru, en del till mina barn och inte min fru, säger Saxe. Nader Henein, analytiker på Gartner, säger att de byråkratiska rutiner som många företag använder kan visa sig vara en bra sak när det gäller bedrägerier i samband med dödsfall...

Omnämnda platser: Sailpoint, Bob, McKinsey. Omnämnda personer: Info-Techs Howden, Greyhounds Gogia, Justin Greis.