AI in de HR-sector: een krachtig hulpmiddel, maar met risico’s

De opkomst van AI heeft aanzienlijke vooruitgang gebracht in verschillende sectoren, waaronder de HR-sector. Toch brengt deze vooruitgang inherente risico’s met zich mee. AI-systemen in de HR-sector worden nu in Europa als hoog risico beschouwd, vooral vanwege hun potentieel om discriminatie en uitsluiting te bevorderen bij bepaalde groepen, zoals mensen- met diverse etnische achtergronden, met een handicap, met verschillende nationaliteiten, zonder universitaire diploma’s en met loopbaangaten. 

De kern van dit probleem ligt in hoe deze systemen zijn geprogrammeerd en getraind. Vaak worden de onderliggende algoritmen getraind met datasets die onvolledig of bevooroordeeld zijn, wat resulteert in systemen die onbedoeld deze vooroordelen weerspiegelen. 

Een voorbeeld van deze bias kan zich voordoen bij het gebruik van AI-systemen tijdens het CV-screeningproces. Deze systemen scannen cv’s op specifieke trefwoorden of criteria en wijzen automatisch kandidaten af die niet aan deze vooraf gedefinieerde normen voldoen. Dit kan potentieel gekwalificeerde kandidaten uitsluiten die niet perfect aansluiten bij deze criteria. 

Het bias-probleem beperkt zich niet alleen tot het screenen van cv’s; het strekt zich uit tot andere aspecten, zoals chatbots die vragen stellen aan kandidaten om hun geschiktheid voor een functie te beoordelen. Deze vragen kunnen onbedoelde vooroordelen bevatten, wat de kansen voor kandidaten uit bepaalde demografische groepen verkleint. 

Om de nadelige effecten van AI-systemen te beperken, heeft de Europese Unie de AI Act geïntroduceerd, die onder andere strengere voorschriften invoert voor het selectieproces van kandidaten.

Onder de nieuwe wetgeving moeten alle HR-systemen die worden gebruikt voor kandidaatselectie een CE-markering dragen. Dit geeft aan dat deze systemen zijn gecertificeerd door een onafhankelijke instantie en voldoen aan de vereisten die in de AI Act zijn uiteengezet. De belangrijkste vereisten van de AI Act voor HR-systemen omvatten:

• Transparantie: Bedrijven moeten transparant zijn over hoe hun AI-systemen werken.
• Voorkomen van vooroordelen: Bedrijven moeten proactieve maatregelen nemen om vooroordelen in hun AI-systemen te voorkomen.
• Gebruik van representatieve data: Bedrijven moeten gegevens gebruiken die een accurate weergave zijn van de samenleving als geheel om vooroordelen in systemen te voorkomen.

De nieuwe AI Act markeert een cruciale stap naar het beperken van de negatieve impact van AI op de arbeidsmarkt. Deze voorschriften zijn bedoeld om ervoor te zorgen dat HR-systemen divers, inclusief zijn en geen discriminatie bevorderen. 

De implementatie van deze nieuwe wetgeving zal ongetwijfeld uitdagingen met zich mee brengen voor zowel werkgevers als ontwikkelaars van AI-systemen. Toch, gezien de risico’s die gepaard gaan met het gebruik van AI in de HR-sector, is het een noodzakelijke stap om een eerlijkere en meer inclusieve arbeidsmarkt te creëren. 

Bron: AI Act: Bedrijven beseffen de impact voor recruitment nog niet (mtsprout.nl)