Agentisk AI har stora förtroendeproblem

– Människor har för mycket förtroende för agenterna just nu, och det slår tillbaka på dem” säger han. – Jag har varit med om ett antal samtal där personer som använder LLM säger: ”Jon, har du någonsin märkt att de räknar fel eller ibland hittar på statistik?”

Sammanhang: ...Mindre än hälften av de tillfrågade säger att de litar på agenter i allmänhet när det gäller att fatta autonoma beslut, även med skyddsåtgärder på plats, och endast 8 procent känner sig bekväma med att ge agenter total autonomi. Tim Sanders, innovationschef på G2, håller inte med om vissa av varningarna: Han ser bristen på förtroende för agenter som ett större problem än bristen på transparens i tekniken. ...

Omnämnda personer: Tamsin Deasey-Weinstein, Tim Sanders, James Urquhart.