När ”human in the loop” ger en falsk trygghet

När det gäller farhågor kring riskerna med AI-system kommer svaret garanterat att vara fyra ord: ”human in the loop”. Diskussionen kan visserligen breddas, men den försäkran är oundviklig. Det är ett uttryck inom AI-styrning som har blivit så uttjatat att

Sammanhang: ...AI-granskaren behöver expertis och sammanhang för att utvärdera rekommendationen, tillräckligt med tid för att göra det samt både befogenhet och teknisk förmåga att avvisa eller upphäva den, säger Eric Billingsley, coo och cto på AI-säkerhetsföretaget Trust Scale. Men även en kvalificerad och bemyndigad granskare kan gradvis sluta utöva sitt oberoende omdöme när AI:n konsekvent har rätt, påpekar han...

Omnämnda platser: Texas, Frisco, Blumofe. Omnämnda personer: Eric Billingsley, Doug Shepherd, Trust Scale.