Waarom AI niet neutraal is: bias #2

Bias AI - werving & selectie recruitment algoritmes

Wat een algoritme leert, hangt af van de ‘trainingsdata’ waaraan het is blootgesteld. Deze gegevens trainen het algoritme om zich op een bepaalde manier te gedragen. De kwaliteit en waarde (en neutraliteit) van de ingevoerde data is hierbij dus essentieel. Dit valt onder te verdelen in twee categorieën: ‘labelling examples’ en ‘data collection’. Deel 2 in de (5-delige) serie Waarom AI niet neutraal is.

Waarom AI niet neutraal is: bias #1

Bias in AI - werving & selectie recruitment algoritmes

Organisaties gebruiken data als input voor algoritmes, die hen vervolgens kunnen ondersteunen in het maken van keuzes. Stel, een organisatie wil uit een grote groep potentiële medewerkers een selectie maken van 'goede' werknemers. Hoe definieer je ‘goed’ in meetbare eigenschappen? Is een goede werknemer iemand die de meeste producten verkoopt? Iemand die nooit te laat komt? In eerste instantie lijken dit redelijke overwegingen in het voorspellen van ‘goede’ werknemers, maar uitsluiting van groepen mensen is hierbij reëel. Deel 1 uit een serie: Waarom een doelvariabele kan leiden tot (onbedoelde) discriminatie.

Kinderen stimuleren om hun kwaliteiten te zien

Floréo Sterke Punten Challenge - basisscholen

Deelnemer Petra Burik (leerkracht kleutergroep) vertelt haar ervaring met de Sterke Punten Challenge. "Ik wil kinderen stimuleren dat ze hun eigen kwaliteiten en de kwaliteiten van anderen zien. Mijn sterke punt is dat ik heel positief ben en vanuit de kracht van positiviteit structuur kan bieden." Samen met collega’s van Floréo-scholen reflecteer je op je challenge en help je elkaar verder. 

Eerlijkheid binnen AI: het sollicitant-perspectief

Fairness in AI recruitment

De traditionele werving en selectie, waarbij HR-medewerkers zelf een CV en motivatiebrief lezen en beoordelen, heeft plaatsgemaakt voor het zogenoemde e-recruitment of ATS (Applicant Tracking System). Door middel van algoritmes worden CV’s en motivatiebrieven gescand op bepaalde vaardigheden of kenmerken. De kandidaat wordt op basis van deze analyse afgewezen of uitgenodigd voor een sollicitatiegesprek. Maar wordt deze manier van afwijzen als eerlijk ervaren? Een uiterst relevante vraag, want de sollicitanten zijn een belangrijke groep die met AI te maken krijgt en hun ervaring is bepalend voor maatschappelijke acceptatie van de inzet van AI bij recruitment.

Talent Management aan de Nederlandse universiteiten

Universiteit Twente

Bij de Universiteit Twente wordt gewerkt aan een 'talentenpool' voor alle medewerkers. Deze 'pool' moet talenten van medewerkers en posities verbinden en een lerende omgeving creëren voor talent management. In het kader van de NSvP Sterke Punten Challenge ontving de vakgroep HRM van de UTwente financiële ondersteuning voor dit project. Irene Felius schrijft als projectmedewerker regelmatig een blog over de totstandkoming van de talentenpool. 

Psychotechniek revisited

David van Lennep algoritmes psychotechniek

In het werving en selectieproces is in de afgelopen eeuw veel kennis ontwikkeld over het beoordelen en meten van geschiktheid, het kritisch toetsen van instrumenten op validiteit en betrouwbaarheid, en het terugdringen van bias. Er doet zich nu een nieuw fenomeen voor: de inzet van AI in recruitment en selectieprocedures. Claims zijn dat dat sneller, effectiever en met minder bias plaatsvindt dan met de tussenkomst van mensen. Opvallend is dat de ICT bij de ontwikkeling van algoritmes een belangrijke rol speelt, maar dat de link naar bestaande kennis vanuit de personeelsselectie weinig wordt gelegd. Wat is er nodig om de uitspraken over geschiktheid op zijn merites te kunnen toetsen en hoe kan door samenwerking tussen personeelspsychologie en ICT de kwaliteit verbeterd worden?

Bevrijdend om soms te kunnen zeggen: ik ben hier niet goed in

OM Openbaar Ministerie Talentversterker

Niemand heeft talent voor alles. Het is juist bevrijdend om soms toe te kunnen geven: ik ben hier niet goed in. Dat is geen smoes om onder een vervelende klus uit te komen. Integendeel, het kan het uitgangspunt zijn voor job crafting. Bij het Openbaar Ministerie Noord-Holland is een groep van 15 medewerkers aan de slag met kleine experimenten in het kader van de Sterke Punten Challenge. Door het ontwikkelen van de "Talent VerSterker" willen zij enerzijds dat medewerkers ontdekken welke talenten zij hebben en hen stimuleren deze ook daadwerkelijk in te zetten in hun werk.

Algoritmes leiden niet automatisch tot eerlijkere selectie

Steeds meer werkgevers zetten algoritmes in voor werving en selectie. Bij Nike en Unilever is het niet meer ongewoon om pas in de derde ronde van de sollicitatieprocedure in gesprek te komen met een menselijke medewerker. Vooroordelen en ongelijkheid kunnen zo meer ruimte krijgen, volgens Annemarie Hiemstra en Isabelle Nevels.

Blog: waar heb ik talent voor?

Bij het Openbaar Ministerie Noord-Holland gaat een groep van 15 medewerkers aan de slag met kleine experimenten binnen de NSvP Sterke Punten Challenge. Door het ontwikkelen van de VerSterker willen zij enerzijds dat medewerkers ontdekken welke talenten zij hebben en hen stimuleren deze ook daadwerkelijk in te zetten in hun werk. Anderzijds willen zij dat het binnen de organisatie ‘normaler’ wordt om stil te staan bij wat je goed kan en hierover met elkaar in gesprek te zijn.

Feedforward Analyse en meetlatgesprekken

Een groep medewerkers van de Gasunie wil een beoordelingsmethodiek ontwikkelen die “samen leren” stimuleert. In een pilot binnen een afdeling willen zij uitvinden op welke manier Feedforward, als onderdeel van een sterke punten benadering, te integreren is in de bestaande beoordelingscyclus. Als start van de pilot zijn met alle deelnemende medewerkers meetlatgesprekken gevoerd. Zij deelden hun eerste ervaringen van het pilotproject binnen de Sterke Punten Challenge.

Over NSvP

De NSvP maakt zich hard voor een menswaardige toekomst van werk. We stellen de vraag hoe de arbeidsmarkt van morgen eruit ziet en onderzoeken hoe werk zodanig kan worden ingericht dat het bijdraagt aan de menselijke waarden en behoeften. We zijn een onafhankelijke stichting. We financieren als vermogensfonds innovatieve projecten op het snijvlak van mens, werk en organisatie.

Rijnkade 88
6811 HD Arnhem
info@nsvp.nl
026 - 44 57 800

 

Vind ons op Facebook
Volg ons