Agentisk AI har stora förtroendeproblem

– Människor har för mycket förtroende för agenterna just nu, och det slår tillbaka på dem” säger han. – Jag har varit med om ett antal samtal där personer som använder LLM säger: ”Jon, har du någonsin märkt att de räknar fel eller ibland hittar på statistik?”

Sammanhang: ...Försiktighet krävs Andra AI-experter varnar företags it-ledare att vara försiktiga när de implementerar agenter, med tanke på det transparensproblem som AI-leverantörer fortfarande behöver lösa. Tamsin Deasey-Weinstein, ledare för AI Digital Transformation Task Force för Caymanöarna, säger att AI fungerar bäst med en människa i processen och strikt styrning, men att många AI-agenter är övermarknadsförda och understyrda...

Omnämnda personer: Tamsin Deasey-Weinstein, Tim Sanders, James Urquhart.