AI-agenter kan – och kommer att – bli lurade

Generativ AI:s nyaste superstjärnor – självständigt agerande agenter – är på stark frammarsch. Organisationer anammar tekniken i en rasande takt eftersom de kan använda API:er eller bäddas in i standardappar och automatisera affärsprocesser. En IDC-rapport

Sammanhang: ...Experimentella exempel visar potential för missbruk genom snabba injektionsattacker, desinformation och automatiserade bedrägerier, enligt Leslie Joseph, analytiker hos Forrester Research. Avivah Litan, analytiker på Gartner Research, säger att AI agent-missöden fortfarande relativt nytt för företagen. – Men jag har hört talas om många potentiella missöden som upptäckts av forskare och leverantörer. ...

Omnämnda platser: Global. Omnämnda personer: Gartner Research, Forresters Joseph, Benjamin Lee.