AI-tools kunnen HR helpen bij het beoordelen en selecteren van sollicitanten. Maar wie zulke software inzet, moet ook kunnen aantonen dat de tool betrouwbaar is en aan wettelijke eisen voldoet. De AI Act stelt specifieke eisen aan AI-systemen voor werving en selectie. ICT-jurist Arnoud Engelfriet en selectie-expert Bas van de Haterd leggen uit waar werkgevers op moeten letten en geven een checklist voor organisaties die selectietools gebruiken.
Shutterstock

Vanuit HR en recruitment horen wij uiteenlopende misverstanden over de AI Act. Die liggen soms ver uit elkaar. Aan de ene kant horen we dat AI bij werving en selectie onder de categorie ‘hoog risico’ valt en dat organisaties er daarom niets mee mogen.

Aan de andere kant zeggen middelgrote organisaties dat ze het risico wel nemen, omdat de Autoriteit Persoonsgegevens toch niet achter een kleine organisatie aan zal gaan.

Als je klant bent van een leverancier die een niet-conforme tool aanbiedt, kun je alsnog in beeld komen

Dat laatste zou kunnen, maar als je klant bent van een leverancier die een niet-conforme tool aanbiedt, kun je alsnog in beeld komen.

Ook horen we regelmatig dat de leverancier zegt dat alles in orde is. Het is opvallend hoe blindelings verkopers soms worden vertrouwd als het om selectietools gaat. Daarom willen wij, ICT-jurist Arnoud Engelfriet en onafhankelijk selectie-expert Bas van de Haterd, in dit artikel uitleggen wat de AI Act inhoudt en wat de praktische gevolgen zijn voor organisaties die AI inzetten bij werving en selectie.

De AI Act: wat betekent hoog risico?

De Europese AI-verordening (AI Act) verbiedt het gebruik van AI bij recruitment en screening van sollicitanten niet. AI-systemen die worden ingezet voor werving en selectie vallen wel onder de categorie hoog risico. Dat betekent niet dat organisaties deze systemen niet mogen gebruiken, maar dat er specifieke eisen gelden voor de ontwikkeling en het gebruik ervan.

Denk aan eisen op het gebied van datakwaliteit, documentatie, cybersecurity, transparantie en menselijk toezicht. Ook moeten medewerkers die met de systemen werken over voldoende AI-kennis beschikken. De verplichtingen voor hoogrisicosystemen uit deze categorie gaan vanaf 2 december 2027 gelden.

Voor aanbieders van hoogrisico-AI-systemen gelden onder meer verplichtingen rond conformiteitsbeoordeling en documentatie. Als het systeem aan de eisen voldoet, moet de aanbieder een EU-conformiteitsverklaring opstellen en de CE-markering aanbrengen. Die markering is dus geen vrijblijvend keurmerk dat een leverancier zelf kan uitdelen.

Werkgevers moeten onder meer zorgen voor menselijk toezicht, het systeem gebruiken volgens de gebruiksinstructies en de werking ervan monitoren

Voor werkgevers die de software gebruiken, gelden daarnaast eigen verplichtingen. Zij moeten onder meer zorgen voor menselijk toezicht, het systeem gebruiken volgens de gebruiksinstructies en de werking ervan monitoren.

Vooral het begrip datakwaliteit is in deze context interessant. Dat gaat niet alleen over de technische kwaliteit van gegevens, zoals de manier waarop ze worden opgeslagen. Bij selectie is ook de functionele kwaliteit van belang. In de arbeids- en organisatiepsychologie gaat het dan om begrippen als betrouwbaarheid en validiteit: meet de tool daadwerkelijk wat hij zegt te meten en levert herhaald gebruik vergelijkbare resultaten op?

Naast de AI Act blijft ook de Algemene verordening gegevensbescherming (AVG) van toepassing. Recruitmentsoftware verwerkt immers persoonsgegevens. Sollicitanten moeten worden geïnformeerd over het gebruik van hun gegevens, de doeleinden van de verwerking en de relevante informatie over de gebruikte systemen.

Wanneer een organisatie uitsluitend geautomatiseerde besluiten neemt die voor een sollicitant rechtsgevolgen hebben of hem of haar anderszins aanzienlijk treffen, gelden bovendien de waarborgen van artikel 22 AVG. Daaronder vallen onder meer het recht op menselijke tussenkomst en de mogelijkheid om een besluit aan te vechten. Ook wanneer AI alleen een ondersteunende rol speelt, moet de verwerking voldoen aan de algemene AVG-beginselen, waaronder transparantie en behoorlijkheid.

Niet alleen de leverancier is verantwoordelijk

AI-systemen voor recruitment en selectie vallen dus onder de hoogrisicocategorie. Vooral het selectiedeel vraagt aandacht. Door de grote aantallen sollicitanten en de toenemende gelijkenis tussen sollicitaties, mede doordat kandidaten zelf AI gebruiken bij het opstellen van hun cv en motivatiebrief, is het gebruik van assessment- en selectietools toegenomen. Ook middelgrote organisaties schaffen hiervoor regelmatig standaardsoftware aan.

Daar liggen risico’s. Werkgevers vertrouwen soms op de mededeling van een leverancier dat een tool aan alle eisen voldoet. Maar daarmee is de verantwoordelijkheid van de werkgever niet verdwenen.

Ook de gedachte dat toezichthouders zich niet snel met een middelgrote organisatie zullen bezighouden, is riskant. Als een leverancier een niet-conforme tool aan veel organisaties levert, kunnen meerdere gebruikers met de gevolgen te maken krijgen.

Voor middelgrote organisaties is het niet altijd haalbaar om zelf uitgebreid onderzoek te doen of kostbaar extern advies in te winnen. Toch kunnen zij vooraf en tijdens het gebruik van een selectietool een aantal belangrijke controles uitvoeren.

Checklist

De tool zelf

Een selectietool moet betrouwbaar en valide zijn. Betrouwbaarheid betekent dat de tool bij herhaalde metingen onder vergelijkbare omstandigheden ongeveer dezelfde uitkomsten geeft. Validiteit gaat over de vraag of de tool daadwerkelijk meet wat hij beoogt te meten.

Het aantal klanten of positieve referenties zegt op zichzelf weinig over deze eigenschappen. Ook bij bekende en grote organisaties kunnen tools worden gebruikt waarvan de kwaliteit ter discussie staat. Vraag daarom altijd om de validatiedocumentatie.

Let daarbij onder meer op de volgende punten:

  1. Test-hertestbetrouwbaarheid

Bekijk de test-hertestbetrouwbaarheid: in hoeverre levert de tool bij herhaalde afname vergelijkbare resultaten op? We adviseren hiervoor een waarde van minimaal 0,7.

  1. Omvang en samenstelling van de steekproef

Kijk hoeveel mensen bij de validatie zijn betrokken en hoe de steekproef is samengesteld. We adviseren een steekproef van minimaal 300 personen. Ook de verdeling naar onder meer geslacht, opleidingsniveau, etniciteit en leeftijd is relevant.

De samenstelling moet aansluiten bij de doelgroep waarvoor de tool wordt gebruikt. Een instrument dat alleen onder hoger opgeleiden is getest, is niet zonder meer geschikt voor de selectie van mbo-kandidaten. De validatie moet dus passen bij de beoogde toepassing.

De kalibratie van de tool

Een tweede aandachtspunt is de kalibratie: welke uitkomsten worden beschouwd als passend bij een functie?

Idealiter wordt de voorspellende waarde van een instrument onderzocht door de testresultaten van medewerkers te vergelijken met gegevens over hun functioneren. Bij middelgrote organisaties is het vaak lastig om daarvoor voldoende medewerkers in dezelfde functie beschikbaar te hebben.

Veel organisaties vertrouwen daarom op een standaardprofiel dat de leverancier voor een bepaalde functie heeft ingesteld. Dat is niet zonder risico. Organisaties verschillen immers in hun werkzaamheden, functie-eisen en manier van werken.

Het is daarom belangrijk om de functie eerst goed te analyseren en vervolgens te beoordelen of het standaardprofiel daarbij aansluit. Pas het profiel zo nodig aan. Leg ook vast waarom juist deze kwaliteiten en vaardigheden relevant zijn voor de functie. Daarmee voorkom je dat de selectie uitsluitend wordt gebaseerd op een algemeen profiel dat niet bij de organisatie past.

Het gebruik van de tool

Ook de manier waarop medewerkers met de selectietool werken, verdient aandacht. De AI Act verplicht organisaties maatregelen te nemen om de AI-kennis van medewerkers te bevorderen. Bij hoogrisicosystemen moet bovendien worden voorzien in menselijk toezicht door personen die daarvoor voldoende zijn toegerust.

Dat betekent dat medewerkers niet alleen moeten weten hoe ze de software bedienen. Ze moeten ook begrijpen wat de uitkomsten betekenen, welke beperkingen het systeem heeft en wanneer ze een beoordeling kritisch moeten bekijken of naast zich neer moeten leggen.

Leg vast welke medewerkers met de tool werken, welke instructies en scholing zij hebben gekregen en wie verantwoordelijk is voor het toezicht. Menselijke tussenkomst mag geen formaliteit zijn: de medewerker moet daadwerkelijk in staat zijn om de uitkomst van het systeem te beoordelen en ervan af te wijken.

Conclusie

Overweeg je als middelgrote organisatie selectietools in te zetten omdat je veel sollicitaties ontvangt? Denk dan goed na over de keuze voor een tool én over de manier waarop je deze gebruikt.

Misschien komt een individuele organisatie niet direct in beeld bij een toezichthouder. Maar als een leverancier een systeem aanbiedt dat niet aan de eisen voldoet, kunnen ook de organisaties die het gebruiken met de gevolgen worden geconfronteerd.

Bovendien kan een ondeugdelijke selectietool een organisatie op een andere manier duur komen te staan: door geschikt talent over het hoofd te zien of juist kandidaten aan te nemen die minder goed bij de functie passen.

Arnoud Engelfriet is informaticus en IT-jurist en partner en Chief Knowledge Officer bij ICTRecht. Hij is gespecialiseerd in AI, data en software, en verdiept zich graag in complexe uitdagingen op het snijvlak van ict en recht, een onderwerp waar hij zich sinds 1993 mee bezighoudt.

LEES OOK:

Maak HR Praktijk uw Google-favoriet