Waarom AI niet neutraal is: bias #4 proxies

werving selectie algoritme bias proxy

Proxies zijn cijfers die correlaties aanduiden tussen bepaalde concepten, waardoor ze voor een algoritme dienen als een soort voorspellers. Blond haar is bijvoorbeeld een proxy voor een blank huidtype. Aan de hand van zulke correlaties worden mensen ingedeeld in groepen. Er ontstaan patronen waaruit blijkt dat bepaalde groepen gemiddeld slechtere prestaties, vaardigheden of capaciteiten vertonen, met als gevolg een systematische uitsluiting van die groepen. Wat kunnen we eraan doen?

Waarom AI niet neutraal is: bias #3

HR algoritme werving selectie bias

Als je algoritmes wil gebruiken om iets automatisch te voorspellen, moet je de wereld vereenvoudigen om het in programmeertaal te kunnen vastleggen. Bijvoorbeeld: wil je een slimme kandidaat - neem iemand met een universitair diploma. Organisaties maken dus keuzes over welke indicatoren ze opnemen in hun algoritmische analyses. Dit keuzeproces wordt ‘feature selection’ genoemd. Omdat algoritmes een vereenvoudigde wereld vereisen, kunnen biases ontstaan. Deel 3 uit een serie van vijf.

Waarom AI niet neutraal is: bias #2

Bias AI - werving & selectie recruitment algoritmes

Wat een algoritme leert, hangt af van de ‘trainingsdata’ waaraan het is blootgesteld. Deze gegevens trainen het algoritme om zich op een bepaalde manier te gedragen. De kwaliteit en waarde (en neutraliteit) van de ingevoerde data is hierbij dus essentieel. Dit valt onder te verdelen in twee categorieën: ‘labelling examples’ en ‘data collection’. Deel 2 in de (5-delige) serie Waarom AI niet neutraal is.

Waarom AI niet neutraal is: bias #1

Bias in AI - werving & selectie recruitment algoritmes

Organisaties gebruiken data als input voor algoritmes, die hen vervolgens kunnen ondersteunen in het maken van keuzes. Stel, een organisatie wil uit een grote groep potentiële medewerkers een selectie maken van 'goede' werknemers. Hoe definieer je ‘goed’ in meetbare eigenschappen? Is een goede werknemer iemand die de meeste producten verkoopt? Iemand die nooit te laat komt? In eerste instantie lijken dit redelijke overwegingen in het voorspellen van ‘goede’ werknemers, maar uitsluiting van groepen mensen is hierbij reëel. Deel 1 uit een serie: Waarom een doelvariabele kan leiden tot (onbedoelde) discriminatie.

Syrische vluchtelingen aan het werk

vluchteling werk integratie

Hoe zorg je dat het aannemen van een Syrische vluchteling in een organisatie een succes wordt? De positieve effecten komen makkelijker tot stand als er aandacht is voor de specifieke situatie van de nieuwe medewerker. Waar zitten de knelpunten, en wat kun je als werkgever doen om die te overbruggen? Onderzoekers van Windesheim, De Haagse Hogeschool en Inholland, schreven een praktisch e-boek om werkgevers daarbij te helpen. 

De beperking als bron van inspiratie

“De bijdrage van de NSvP in financiële en inhoudelijk zin hebben ons geprikkeld om nog beter te gaan begrijpen hoe het werkt wat we doen. Het heeft nieuwe inzichten opgeleverd, aangezet tot het maken van keuzes en het ontwikkelen en implementeren van nieuwe modellen en de ontwikkeling van een artistieke visie.” Het initiatief Partofit ontving in 2016 – onder de naam Heroes of the Sky – de publieksprijs van de OmkeerChallenge.

In gesprek over methodieken rond diversiteit

De NSvP ondersteunde de afgelopen jaren verschillende projecten op het terrein van culturele diversiteit. Martha Meerman (lector Hogeschool van Amsterdam) nam het initiatief om de verschillende projectleiders bij elkaar te brengen om de ontwikkelde inzichten in een breder kader te plaatsen.

Toolbox verschil benutten/innoveren

toolbox verschil benutten

De toolbox verschil benutten/innoveren is ontwikkeld door de NSvP in opdracht van het Ministerie van SZW en specifiek gericht op het benutten van verschil in organisaties. In deze toolbox zijn interessante visies en aanpakken gebundeld die van belang zijn om verschillende competenties van teamleden te benutten. Vaak zoeken we een teamlid die past in de werkcultuur van het bestaande team.

Vrouwennetwerken als diversiteitsinstrument

Effectieve vrouwennetwerken

Nederland kent veel bedrijven en organisaties waarin een vrouwennetwerk actief is. Vrouwennetwerken in organisaties zijn georganiseerde netwerken van medewerkers die erop gericht zijn de positie en de bijdrage van vrouwen in de organisatie te versterken. Effectieve samenwerking tussen vrouwennetwerken en de organisaties waarvan zij deel uitmaken, draagt bij aan het benutten van diversiteit. Hoe ziet de samenwerking er nu uit en hoe kan ze eventueel geoptimaliseerd worden?

Toolbox verschil meten en doelen stellen

Toolbox verschil meten

Veel organisaties investeren in diversiteit, zonder uitgebreide analyses vooraf. Maar doelen kunnen pas helder geformuleerd worden, als duidelijk is waar de organisatie nu staat. Bovendien ontstaat draagvlak voor verandering als helder is wat het de organisatie en de medewerker daadwerkelijk kunnen opleveren. Door vervolgens ook de voortgang te bewaken en meetbaar te maken, wordt duidelijk welke investeringen verantwoord zijn en wat ze opleveren.

Over NSvP

De NSvP maakt zich hard voor een menswaardige toekomst van werk. We stellen de vraag hoe de arbeidsmarkt van morgen eruit ziet en onderzoeken hoe werk zodanig kan worden ingericht dat het bijdraagt aan de menselijke waarden en behoeften. We zijn een onafhankelijke stichting. We financieren als vermogensfonds innovatieve projecten op het snijvlak van mens, werk en organisatie.

Rijnkade 88
6811 HD Arnhem
info@nsvp.nl
026 - 44 57 800

 

Vind ons op Facebook
Volg ons