Granskning: AI-baserad rekrytering ger risk för diskriminering

Storbritanniens dataskyddsmyndighet, Information Commissioner’s Office (ICO), har upptäckt att AI-baserade rekryteringsverktyg kan diskriminera arbetssökande baserat på egenskaper som ras, kön och sexuell läggning, vilket strider mot landets dataskyddslagar,

Sammanhang: ...Granskning: AI-baserad rekrytering ger risk för diskriminering...

Granskning: kända AI-modeller lever inte upp till EU:s lagkrav

Den schweiziska startupen Latticeflow har i samarbete med forskningsinstituten ETH Zürich och bulgariska Insait tagit fram ett granskningsverktyg eller “Large Language Model (LLM) Checker” som kan se i vilken mån generativa AI-modeller följer reglerna i EU:s

Sammanhang: ...De första mätningarna visar att de stora AI-modellerna får ett snittbetyg på 0,75 eller högre men att det samtidigt finns tydliga utrymmen för förbättring. När det kommer till diskriminering ska verktyget givit Open AI:s GPT-3.5 Turbo betyget 0,46 av 1 medan Alibaba Clouds Qwen 1.5 72B Chat fick 0,37. ...

Omnämnda platser: Metas Llama 2. Omnämnda personer: Alibaba Clouds Qwen.

Nu är det AI som gäller för rekrytering – men blir det rättvist?

– Min gissning är att vissa arbetsgivare tror att Chat GPT uppmuntrar till lögn eller fusk, medan andra ser effektiviteten och bättre ansökningshandlingar. Det borde egentligen inte spela någon roll om någon använder Chat GPT, så länge de använder sina erfarenheter

Sammanhang: ...Betsy Summers, chefsanalytiker på Forrester Researchs Future of Work-avdelning, säger att även om rätt utbildad AI kan mildra diskriminering, håller hon också med Paula Bratcher Ratliff om att tekniken ofta kan förvärra problem med fördomar eftersom ”det är en algoritm som byggts av människor med fördomar och som lär sig av mänsklig data”. ...

Omnämnda platser: Women, Improovy, Använda. Omnämnda personer: Forrester Researchs, Betsy Summers, Iffi Wahla.