Vem blir den första cio:n att få sparken för kaos orsakat av AI-agenter?

Cio:er kommer att spela en stor roll i utformningen av skyddsåtgärderna, säger han. – När rättsliga åtgärder blir offentliga vill styrelserna ha svar på vad som har hänt och varför. Om förklaringen är att ”systemet gjorde det” är det sällan något som tillfredsställer

Sammanhang: ... – Inga eskaleringsprotokoll, ingen revisionsspår från agentens åtgärder till affärsresultat. När något går sönder, och något går alltid sönder, har de inga svar. ...

Omnämnda personer: Dimitri Osler, Shivanath Devinarayanan.

Utvärdering av AI-agenter kan bli oväntat dyrt

Eftersom många organisationer använder en andra stor språkmodell för att granska resultaten från en LLM-driven agent, kan agenttestning bli många gånger dyrare än att testa traditionell programvara, säger han. Dessutom kan denna metod, som kallas LLM somdomare,

Sammanhang: ...Kostnaden för agentutvärderingar kan variera kraftigt beroende på agentens komplexitet, säger Russell Twilligear, chef för AI-forskning och utveckling hos Blogbuster, en leverantör av AI-genererat innehåll. ...

Omnämnda platser: Monte Carlo. Omnämnda personer: Russell Twilligear.

AI-agenter och agentisk AI är inte samma sak – här är skillnaden

– Det är värt att klargöra om du köper ett verkligt agentiskt system eller bara en arbetsflödesagent klädd i buzzwords, säger han. Den största faran i det här sammanhanget är förvirring, det är inte alltid avsiktligt, men det är vanligt att man överdriver

Sammanhang: ...Agenter, som nu drivs av AI med stora språkmodeller (LLM), kommer istället att förlita sig på små språkmodeller (SLM ) som är tränade för att hantera agentens tilldelade uppgift, säger han. Agenterna kommer att bli smartare och mer tillförlitliga. – Vi kommer att börja få vad jag tror kommer att bli verkliga expertagenter, där du använder en SLM som är vältränad för en specifik uppgift, precis som du skulle få en mjukvaruprogrammerare, en agilexpert och en produktchef att arbeta tillsammans, säger han. ...

Omnämnda platser: Slack.

AI-agenter kan – och kommer att – bli lurade

Generativ AI:s nyaste superstjärnor – självständigt agerande agenter – är på stark frammarsch. Organisationer anammar tekniken i en rasande takt eftersom de kan använda API:er eller bäddas in i standardappar och automatisera affärsprocesser. En IDC-rapport

Sammanhang: ...Några vanliga sätt som AI-agenter kan angripas på är bland annat Förgiftning av data: AI-modeller kan manipuleras genom att falska eller vilseledande data introduceras under träningen. Detta kan påverka agentens beslutsprocess och potentiellt få den att bete sig illvilligt eller felaktigt. Adversariala attacker: Dessa innebär att AI-agenten matas med noggrant utformade indata som är utformade för att vilseleda eller förvirra den. ...

Omnämnda platser: Global. Omnämnda personer: Gartner Research, Forresters Joseph, Benjamin Lee.