Hela anställningsprocessen styrs nu av algoritmer som sorterar bort kandidater på sekunder. Resultatet blir en digital mur för sökande.
Bot mot bot: Nu blir arbetssökande chanslösa när AI tar över
Allt fler företag använder artificiell intelligens i hela rekryteringskedjan, visar en granskning från Diskrimineringsombudsmannen (DO). Systemen marknadsförs ofta som objektiva och snabba.
Verkligheten visar dock ett helt annat utfall. Många arbetssökande slås ut direkt utan att en människa ens har tittat på deras meriter.
Tekniken har skapat en kapprustning. Sökande använder automatiserade verktyg för att skriva sina meritförteckningar. Samtidigt använder företagen mjukvara för att filtrera bort dokument i stora volymer. Det hela liknar en process där datorer enbart talar med andra datorer.
Djupa snedvridningar i urvalet
När mjukvaran granskar ansökningar uppstår allvarliga fel, enligt forskare vid Stanford University. Eftersom systemen tränas på gamla anställningsbeslut kopierar de tidigare mönster. Avvikande profiler sorteras därmed bort automatiskt.
I Stanfords studie av 3,4 miljoner ansökningar missgynnades svarta sökande med 26 procent av kommersiella verktyg. Systemen hittar dolda mönster i bostadsort eller utbildning, vilket leder till systematisk utestängning.
En annan risk är att många arbetsgivare köper in samma programvara. Den som blir felaktigt bortsorterad hos ett bolag riskerar därför att spärras ute från stora delar av arbetsmarknaden samtidigt.
Hårdare regler väntar i EU
Även automatisk videoanalys och tonfallsmätning får stark kritik av forskare vid University of Cambridge. De menar att testerna saknar vetenskaplig grund. Enkel belysning eller glasögon kan sänka kandidatens slutbetyg.
Trots riskerna litar mänskliga chefer ofta blint på datorns rankningslistor. För att stoppa utvecklingen inför EU nya krav genom AI-förordningen. Där klassas rekryteringsverktyg som högrisksystem med strikta krav på mänsklig insyn och kontroll.
Läs också:
Kan Riddermark sänka Blocket med egen AI-app? Dagens PS
Miljardnotan slår mot bilägarna – enkla detaljen kan sänka kostnaden. E55
