Agentisk AI har stora förtroendeproblem

– Människor har för mycket förtroende för agenterna just nu, och det slår tillbaka på dem” säger han. – Jag har varit med om ett antal samtal där personer som använder LLM säger: ”Jon, har du någonsin märkt att de räknar fel eller ibland hittar på statistik?”

Sammanhang: ...Organisationer som använder agenter kan implementera ett samordningslager som hanterar livscykel, kontextdelning, autentisering och observerbarhet, säger James Urquhart, fält-cto hos AI-orkestreringsleverantören Kamiwaza AI. Liksom Deasey-Weinstein förespråkar Urquhart att agenter ska ha begränsade roller, och han jämför samordning med en domare som kan övervaka ett team av specialiserade agenter...

Omnämnda personer: Tamsin Deasey-Weinstein, Tim Sanders, James Urquhart.