Inga produkter i varukorgen.
Säkra att AI används på ett rättvist sätt
AI
Att överlåta delar av rekryteringsprocessen till AI öppnar upp för snabb och smidig rekrytering av rätt kandidat. Samtidigt gäller det att vara medveten om de risker som har med etik och moral att göra och säkra att rekryteringen sker på ett rättvist sätt.
– Fördomar har alltid funnits men smyger sig lätt in och förstärks med AI, säger Johan Holm, juris doktor och lektor i rättsvetenskap vid Umeå universitet.
Johan Holm är juris doktor och lektor i rättsvetenskap vid Umeå universitet och forskar kring AI i arbetslivet. Foto: Mattias Pettersson
Rekrytering med hjälp av AI är ett växande område. Men samtidigt som det ger många fördelar och nya möjligheter till snabb och smidig handläggning kan det också vara förenat med vissa utmaningar.
Någonting är fel
Du är inloggad som prenumerant hos förlaget Pauser Media, men nånting är fel. På din profilsida ser du vilka av våra produkter som du har tillgång till. Skulle uppgifterna inte stämma på din profilsida – vänligen kontakta vår kundtjänst.
VD-tidningen premium
Läs vidare – starta din prenumeration
Redan prenumerant? Logga in och läs vidare.
Det finns till exempel risk för att de fördomar och diskriminerande element som finns med i den data som laddas in reproduceras och till och med förstärks i de svar som kommer ut.
Ett klassiskt exempel härrör från e-handelsföretaget Amazon som använde ett AI-verktyg för rekrytering, där resultatet blev att majoriteten av de utvalda kandidaterna var män. Kvinnliga sökande sållades automatiskt bort eftersom AI tränats på historiska data och att man tidigare alltid haft flest män på de aktuella posterna.
– Det finns gott om exempel när AI inte fungerar bra i praktiken. Problemen bottnar i att man använder befintligt material för att träna systemen som inte har korrigerats för bias och därmed uppstår snedvridningar i resultatet. Fördomar har alltid funnits men smyger sig lätt in och förstärks med AI, säger Johan Holm, juris doktor och lektor i rättsvetenskap vid Umeå universitet som bland annat forskar kring AI i arbetslivet.
Fördomar har alltid funnits men smyger sig lätt in och förstärks med AI
Dolda fakta i systemet
De fakta som kan ge upphov till snedvridningar i resultatet kan också vara tämligen dolda i systemen, konstaterar han.
– Även om man rensar för till exempel etnicitet i systemet kan det vara så att vissa kandidater sållas bort enbart på grund av att postnumret ger en indikation om att de bor i ett visst område, förklarar han.
Johan Holm betonar vikten av transparens och uppmanar företag och organisationer att vara vaksamma inför vilka data som AI-verktygen använder.
– Systemet letar efter mönster och då gäller det att vara införstådd med vilka data som mönstret bygger på, säger han.
Men även i tidigare steg i rekryteringsprocessen, före själva urvalet av kandidater, kan det finnas fördomar som förstärks genom AI. Johan Holm exemplifierar med webbtjänsten och sociala nätverket LinkedIn.
– Redan där kan det uppstå könsdiskriminering genom att de annonser som visas skiljer sig åt mellan män och kvinnor, förklarar han.
Kombinera med mänsklig bedömning
Johan Holm ger rekommendationen att inte förlita sig blint på AI-verktygen i en rekryteringsprocess, utan alltid kombinera automatiseringen med en mänsklig bedömning. Enligt den nya EU-lagstiftningen, AI Act, som antogs tidigare i år, klassificeras AI-baserad rekrytering också som ett högriskområde, vilket ställer vissa krav på framförallt dem som utvecklar och tillhandahåller tjänsterna.
– Men även om man använder ett system som uppfyller kraven i förordningen har man att ta ansvar för att det används på ett korrekt och rättvist sätt, säger Johan Holm.
Eftersom en rekryteringsprocess innehåller persondata finns också regler kring automatiserat beslutsfattande som är kopplat till dataskyddsförordningen GDPR.
– En helt automatiserad rekryteringsprocess är i princip förbjuden enligt GDPR och förmodligen heller inte önskvärd av vare sig arbetsgivare eller arbetstagare, avslutar han.
