När ”human in the loop” ger en falsk trygghet

När det gäller farhågor kring riskerna med AI-system kommer svaret garanterat att vara fyra ord: ”human in the loop”. Diskussionen kan visserligen breddas, men den försäkran är oundviklig. Det är ett uttryck inom AI-styrning som har blivit så uttjatat att

Sammanhang: ...För att ”human-in-the-loop”-system faktiskt ska fungera måste de medarbetare som övervakar AI-verktygen ha den fackkunskap och det sammanhang som krävs för att vidta den åtgärd som AI-verktyget avser när AI:n inte är inblandad, och de måste ha befogenhet att åsidosätta AI:ns beslut, säger Doug Shepherd, chef för offensiv säkerhet hos internetleverantören Cloudflare. Löftena om ”human-in-the-loop”-system ger it-chefer en trygghet, men den underliggande processen fungerar ofta inte som utlovat, tillägger han...

Omnämnda platser: Texas, Frisco, Blumofe. Omnämnda personer: Eric Billingsley, Doug Shepherd, Trust Scale.