När ”human in the loop” ger en falsk trygghet

När det gäller farhågor kring riskerna med AI-system kommer svaret garanterat att vara fyra ord: ”human in the loop”. Diskussionen kan visserligen breddas, men den försäkran är oundviklig. Det är ett uttryck inom AI-styrning som har blivit så uttjatat att

Sammanhang: ... – Om en slutpunkt har komprometterats vill man kanske att systemet ska isolera den omedelbart, säger Kimura på AI Squared. – Att vänta 20 eller 30 minuter på att någon ska godkänna den åtgärden kan leda till att attacken sprider sig. ...

Omnämnda platser: Texas, Frisco, Blumofe. Omnämnda personer: Eric Billingsley, Doug Shepherd, Trust Scale.

Den där nya fina AI-funktionen? Dina kunder kommer inte att använda den

Mjukvaruföretag som integrerar AI-funktioner i befintliga produkter stöter på ett ganska stort problem: kunderna är helt enkelt inte särskilt intresserade. 51 procent av de mjukvarutillverkare som har lagt till AI i befintliga produkter uppger att mindre

Sammanhang: ...De behöver de kontrollfunktioner, integrationer och den driftsmodell som krävs för att använda de funktioner de redan har, säger Kimura. Vissa AI-tilläggsverktyg har också integrationsproblem. – AI som finns vid sidan av arbetsflödet blir en demonstration. ...

Omnämnda platser: Kimura. Omnämnda personer: Darren Kimura, Sofia Barbosa, Lifted Holdings.