Företag förlitar sig alltmer på automatisering för att hjälpa till att screena kandidater i anställningsprocessen, en trend som föranleder granskning från lokala myndigheter och tillsynsmyndigheter.
Nästan en av fyra organisationer använder redan automation eller artificiell intelligens (AI) för att stödja anställning, enligt en Enkät februari 2022 från Society for Human Resource Management, och användningen är högre – 42 procent – bland stora arbetsgivare med 5 000 eller fler anställda. A färsk rapport från Recode detaljerade Amazons ambitioner att ersätta några av sina rekryterare med AI-mjukvara som kan snabbspåra kandidater till intervjuer utan mänsklig inblandning.
bästa tiden att ta en probiotika
Idag kan AI-teknik göra mer än bara skärmrepeteringar. Företag kan också använda AI-verktyg för att övervaka kandidaternas närvaro på sociala medier snabbt och plocka upp röda flaggor. Kandidater kan genomföra en första intervju för ett jobb utan att någonsin prata med en riktig person på företaget, tack vare AI-driven videomjukvara.
'Det är en slags kapprustning', säger Josh Bersin, som driver en professionell utvecklingsakademi för personal och lärande. 'Om du inte har den här typen av teknik, spenderar dina rekryterare mycket extra tid, och de saknar förmodligen folk.'
Men anställningsfokuserad AI är full av etiska problem, eftersom vissa forskare hävdar att tekniken är partisk mot vissa typer av kandidater. Även om verktygen har funnits i ungefär ett decennium, börjar regeringar äntligen granska dem, vilket föranleder ytterligare debatt om var arbetsgivare ska dra gränsen när de använder automatisering på arbetsplatsen. Från och med nästa månad kan arbetsgivare i New York City få straff om de inte granskar sina AI-anställningsverktyg för partiskhet.
Hur arbetsgivare använder AI vid anställning
Även om programvara utformad för att upptäcka vissa nyckelord på en kandidats CV har funnits i decennier, har automationsverktyg för rekryterare blivit mycket mer sofistikerade under de senaste sju till åtta åren, enligt Bersin.
Medan äldre spårningsmjukvara används för att helt enkelt identifiera lovande kandidater baserat på vissa ord på deras CV, kan dagens teknik gräva ner sig i en kandidats sociala nätverk, färdigheter och tidigare arbetsgivare som de delar med framgångsrika anställda för närvarande på ett företag, för att avgöra om de kan vara en bra passform.
'Nu tittar rekryterare på personer som nästan är förkvalificerade innan de ens ansöker,' sa Bersin och noterade att AI-programvara kan hämta kandidater från sociala medier även om de ännu inte har sökt en position. Han tillskrev den fortsatta stramheten på den amerikanska arbetsmarknaden delvis till det faktum att det har blivit mycket lättare att hitta ett jobb med denna teknik.
Steve Boese, medgrundare och VD för konsultföretaget H3 HR Advisors, sa att användningen av AI vid rekrytering har utvecklats från enkla funktioner som att automatisera intervjuschemaläggning eller ställa screeningfrågor till mer sofistikerade användningsområden, som att bedöma en kandidats profil och tolka deras Kompetens. AI kan också användas för att utvärdera kandidaternas intervjusvar, vilket är fallet med programvara som rangordnar sökande baserat på deras prestationer i automatiserade videointervjuer .
Även om dessa verktyg har potential att göra anställningsprocessen mycket effektivare, har företag inklusive Amazon under de senaste åren kommit under brand för att de använder teknik som kritiker säger replikerar fördomar vid anställning. En AI-rekryteringsverktyg som Amazon slutade använda 2017 sägs gynna manliga kandidater framför kvinnor, bestraffade CV:n som inkluderade fraser som 'kvinnors schackklubbskapten' och nedgradering av utexaminerade från flera högskolor för alla kvinnor, rapporterade Reuters.
Det är 'helt möjligt' för en algoritm att fatta anställningsbeslut baserat på samma fördomar som människor, sa Dipayan Ghosh, en professor vid Harvard Kennedy School som forskar om AI, i en 2018 års uppsats för kvarts. Ghosh citerade resultat från ett fältexperiment 2003 publicerat i National Bureau of Economic Research som hittade meritförteckningar med 'vitt klingande' namn prioriterades framför meritförteckningar med 'svartklingande' namn, även när kandidater har liknande kvalifikationer. AI-verktyg är särskilt sannolikt att replikera sådana fördomar 'om policyn leder till lönsamma resultat för den anställde klienten trots dess implicita partiskhet', tillade han.
Arbetsgivare står inför statlig granskning för AI-användning
Regeringar har just nu börjat granska arbetsgivare för deras användning av automatiserad teknik för att anställa arbetare. I maj USA justitiedepartementet och den Kommission för lika möjligheter till anställning utfärdade uttalanden som uppmärksammade amerikaner på potentialen för AI-verktyg för att diskriminera arbetssökande med funktionshinder. Vita huset i oktober släppte en plan för en 'AI Bill of Rights' i oktober för att 'hjälpa vägleda design, användning och distribution av automatiserade system', inklusive vid anställning.
En ny lag som träder i kraft i New York City i januari kommer sannolikt att få fler arbetsgivare att titta närmare på hur deras AI-programvara fungerar. De lagstiftning förbjuder arbetsgivare att använda teknik för automatiserad anställningsbeslut om den inte har blivit föremål för en 'bias revision'. Liknande lagstiftning har föreslagits i Washington, D.C. och Kalifornien. Illinois har också en lag på böckerna som reglerar AI-videoprogramvara.
New Yorks lag har redan föranlett förvirring bland arbetsgivare som säger att de inte vet hur de ska genomföra en oberoende granskning av sin programvara som följer mandatet. Och experter som studerar användningen av AI vid anställning säger att förvirring sannolikt kommer att fortsätta när fler regeringar försöker reglera det.
Ben Dattner, en konsult vem har skrivit om de juridiska och etiska konsekvenserna av AI vid anställning, sa att det fortfarande finns en hel del oklarheter om vad som utgör 'artificiell intelligens' i HR-världen, vilket kan göra lagar som New York City svåra att genomdriva. Han tillade att det vanligtvis är lätt för företag att rimligtvis förneka sin kunskap om fördomar i sina anställningsverktyg. 'Lagen ligger bakom tekniken, till viss del,' sa Dattner.
Medan Bersin sa att nya lagar sannolikt kommer att höja ribban för arbetsgivare och AI-leverantörer att mer noggrant ta hänsyn till partiskhet i sina anställningsverktyg, menade han att det kan vara svårt att genomdriva sådan lagstiftning. 'Om folk blir stämda och de måste ta reda på varför AI fattade ett särskilt beslut, kommer det att bli kaos.'
