Work

Automated decision-making in candidate selection: A study of how EU law limits discriminatory effects

Year: 2024
Type: dissertation
Abstract: 1 Inledning 1.1 Bakgrund I takt med den tekniska utvecklingen har beslut som tas på automatisk väg kommit att bli ett allt mer vanligt inslag i olika sektorer.1 I arbetslivet har det framförallt börjat användas i rekryteringsstadiet.AI-baserade verktyg används för att på automatisk väg sortera bort en del av de ansökningar som kommer in till arbetsgivare, särskilt när det rör sig om annonser där det kommer in hundra-eller tusentals ansökningar.2 Oftast rör det sig om komplexa maskininlärningsalgoritmer vad gäller rekrytering med hjälp av algoritmer.Sådana system kan användas både för att hjälpa mänskliga rekryterare i en anställningsprocess men också för att automatisera delar av processen på så sätt att mänsklig inblandning inte krävs i ett visst avseende.Algoritmerna kan användas för att på automatisk väg utan mänsklig involvering utvärdera och göra ett urval av sökanden baserat på deras cv:n, personliga brev samt olika test som utförs i samband med rekryteringen. 3 Exempelvis har ett rekryteringsverktyg baserat på AI använts av företaget Amazon.Det har rapporterats att den AI applikation som Amazon använde sig av gick ut på att kandidaters cv:n fick ett poäng mellan ett till fem.Efter ett tag visade det sig att de cv:n som fick lägst betyg var kvinnliga, medan män fick högre poäng.Detta hade att göra med att det AIsystem som användes var tränat på cv:n som hade skickats in till företaget över en 10årsperiod vilket främst utgjordes av cv:n från män. 4 Det finns även andra exempel på användning av AI-system för automatiserat beslutsfattande inom arbetslivet.Ett sådant exempel är att AI-system används för att fatta automatiserade beslut gällande disciplinära åtgärder.Detta har hittills främst använts i förhållande till plattformsarbetare.På taxiföretag har förare fått sina konton på plattformen avstängda främst på grund av låga kundomdömen, vilket har resulterat i att det inte kan jobba vidare via just den plattformen då uppdragen utgår från plattformen.5
Author: Häggström, Beatrice
Institution: Uppsala University
Language: English
Open Access status: green
OpenAlex ID: W6989530721
Cites: 22
Cited by:
Related to: 10