De 'dirty little secret' van AI vraagt om een nieuw gesprek over de toekomst van werk, en hoe mens en machine daarin samenwerken. Met de installatie Guest Worker maken we tastbaar wat er op het spel staat.
Een aantal jaar geleden maakten we kennis met de term gig economy. Met de flexibilisering van werk maakten banen plaats voor projecten, en werden zelfstandige werkers afhankelijk van losse klussen. Maaltijdbezorgers, taxichauffeurs, reparateurs en marketeers; allemaal werken ze met digitale platforms die vraag en aanbod matchen, tegen lage transactiekosten. Inmiddels is er ook kritiek op deze kluseconomie, en is dit onderwerp op de politieke agenda’s beland. Begin dit jaar nam Californië – de staat waar nota bene de meeste gig-bedrijven vandaan komen – een wet aan die taxi-apps verplicht om hun chauffeurs als werknemers te behandelen.
Dat we de negatieve kanten van de kluseconomie als probleem (h)erkennen, komt doordat deze werkers een zichtbaar onderdeel van onze arbeidsmarkt zijn. We ontvangen de maaltijdbezorger aan onze deur. We zitten naast de Uber-chauffeur op de bijrijdersstoel, kunnen het gesprek aangaan – tenzij je in de app moedwillig kiest voor de quiet mode. En als het debat eenmaal plaatsvindt, verenigen werknemers zich op het Malieveld.
Hoe werkt het systeem in de hand dat
deze groep verborgen blijft?
Op de achtergrond is echter een vergelijkbare ontwikkeling gaande, met een heel andere uitkomst. Nieuwe technologie – met name AI – zorgt voor de groei van een enorme verborgen arbeidersklasse. Een heel leger van zelfstandige en geïsoleerde online werkers, die samen de drijvende kracht achter onze slimme systemen vormen. Een leger dat we nooit aan onze deur of op het Malieveld zien, en waarover nooit wordt geschreven in de succesverhalen rond nieuwe technologie. Dit is AI’s dirty little secret; er schuilt een enorme hoeveelheid mensenwerk in ogenschijnlijk geautomatiseerde systemen. Vaak slecht betaald, en bovenal laag gewaardeerd. Hoe werkt het systeem in de hand dat deze groep verborgen blijft? Wat zijn de gevolgen voor ons idee van een inclusieve arbeidsmarkt? En kunnen we hier lessen uit trekken voor de toekomstige samenwerking tussen mens en machine? We duiken in de wereld van AI’s ghost workers.
“The first step in building solidarity is simply knowing there are people out there.”
Douglas Rushkoff
De mens in de machine
Als het over nieuwe technologie gaat, praten we voortdurend over slimme systemen, met artificiële intelligentie, die zelf beslissingen kunnen nemen. Autonomie in systemen is niet alleen voor big-tech een heilige graal; het is een collectieve en bovendien eeuwenoude droom. Onze apparaten doen ons werk, zonder dat wij ons daarmee hoeven te bemoeien. In die verhalen en verwachtingen is de mens volledig uit de vergelijking gehaald. In de praktijk is dat niet het geval.
Er zijn uitzonderlijke momenten dat we nog een glimp opvangen van zo’n ‘mens in de machine’. Eind 2019 ontstond er ophef over stemassistenten zoals Alexa, Siri en Google Assistant. De bal kwam aan het rollen doordat Belgische nieuwszender VRT NWS duizenden gelekte opnames van deze stemassistenten in handen kreeg. Opeens werd duidelijk dat bij al deze apparaten dagelijks talloze medewerkers ‘stiekem’ meeluisteren. Geen zorgen, was Google’s reactie op de ontstane commotie; we zijn niet geïnteresseerd in wat gebruikers zeggen, maar vooral in hoe ze dat zeggen. Het zelflerende algoritme in deze systemen moet nog veel leren over dialecten en subtiele verschillen in uitspraak. Om het algoritme daarin te helpen, is nou eenmaal menselijke aanvulling en sturing nodig. Vervolgens ging het debat vooral over onze wegkwijnende privacy, of de datahonger van surveillancekapitalisme. Maar de rol van die menselijke werkers komt vrijwel niet ter sprake. Hoeveel mensen zijn dat? En wat doen ze precies?
“I've done about 20 of them, and started to wonder... what else do you guys do to keep from just getting completely bored (but without actually taking a break).”
u/NotYouTu
De mens is nodig voor ‘the last mile’
Nu we steeds meer taken en processen automatiseren, ontstaan er voor mensen ook compleet nieuwe werkvormen. Er zijn allerlei taken die AI nog niet (goed) zelfstandig kan uitvoeren. Denk aan het overtypen van ingescande kassabonnen of het invullen van een Captcha-code. Mensen helpen om die informatie goed over te zetten, bijvoorbeeld van analoog naar digitaal, van audio naar tekst of van impliciet naar expliciet. Met die menselijke interpretatie als input, wordt een systeem ook getraind om zelf weer wat beter te herkennen wat ergens geschreven staat, of gehoord wordt.
Dit noemen we the last mile; er blijft altijd een restje dat niet geautomatiseerd kan worden en om menselijke arbeid vraagt. Het zijn de laatste meters waarin mensen de AI naar de finishlijn moeten dragen. In Google’s weerwoord zat een krachtige, impliciete boodschap: we hebben nu nog mensen nodig om onze systemen te trainen, zodat dat straks niet meer nodig is. Met andere woorden, dit is een tijdelijke overgangsfase. Dat past in het overheersende verhaal dat onze systemen uiteindelijk volledig autonoom zullen zijn. Maar de vraag is in hoeverre de finishlijn mee schuift met de ontwikkelingen, waardoor de mens altijd brugfuncties blijft vervullen. Door menselijke werkers als ‘tijdelijke hulp’ te zien, gaan we voorbij aan de omvang en betekenis van die hele arbeidersklasse.
De term ‘intelligentie’ betekent hier voor machines
duidelijk iets anders dan voor mensen
Dit fenomeen is overigens niet nieuw. Facebook zet al langer wereldwijd moderators in om naar ‘geflagged’ materiaal te kijken. Voor een groot deel herkennen Facebook’s systemen zelf wanneer er aanstootgevend beeldmateriaal wordt geupload. Voor de twijfelgevallen moeten medewerkers de beelden bekijken – met serieuze gevolgen voor hun mentale gezondheid. Sinds 2019 wordt er ook zo gewerkt om fake news te bestrijden.
“Best MTurk was writing porn descriptions, made like 45$ an hour for about 2 hours a day for a month. Then they cut their rate by 90%.”
u/PM_ME_YOUR_BLASTOISE
Wat wél nieuw is, is dat elk bedrijf dit soort diensten inmiddels kan afnemen. Er zijn grote online platforms voor, zoals Amazon’s Mechanical Turk (MTurk). Duizenden bedrijven gebruiken deze dienst om al die menselijke inschattingen te verzamelen. Het werk wordt daar verdeeld over tienduizenden arbeiders uit de hele wereld, die samen miljoenen, fragmentarische ‘human intelligence tasks’ (HITs) uitvoeren. De term human intelligence is overigens misleidend, zelfs bijna ironisch. Want er is inderdaad menselijke intelligentie nodig om de taken goed uit te voeren, maar de taken zelf zijn – voor mensen – vaak verre van complex of uitdagend. Meestal gaat het om micro tasks met repetitieve handelingen, die grotendeels op de automatische piloot kunnen worden gedaan. De term ‘intelligentie’ betekent hier voor machines duidelijk iets anders dan voor mensen. Het is niet voor niets dat Amazon’s dienst als ondertitel ‘Artificial Artificial Intelligence’ heeft. Het is een kunstmatige (nauwere) definitie van menselijke intelligentie. Of zoals internetpionier Tim O’Reilly het beschrijft: “Humans aren’t batteries for The Matrix, we are computer chips.” Het ‘menselijke’ wordt gereduceerd tot wat computers van ons nodig hebben.
Van arbeidsmarkt naar systeem
Wereldwijd zijn er miljoenen digitale werkers die vanuit huis opdrachten in MTurk uitvoeren. Economen Mary L. Gray en Siddhart Suri noemen hen ‘ghost workers’. Die term werd aanvankelijk gebruikt voor mensen die door fraude of administratieve fouten onterecht op de loonlijst van bedrijven of overheden bleven staan. Denk aan gepensioneerden die per ongeluk jaren doorbetaald kregen. De nieuwe, digitale ghost workers zijn net als die medewerkers niet zichtbaar in een bedrijf – met het verschil is dat ze wel daadwerkelijk werk leveren.
Over de absurd lage vergoedingen die deze ghost workers ontvangen werd al vaker geschreven, in termen van dataslavernij. Voor deze nieuwe arbeidsvorm bestaan nog geen regels, dus op een wettelijk minimumloon hoeven deze werkers niet te rekenen. Nog schrijnender wordt het, wanneer ghost workers demografisch worden geanalyseerd: het overgrote deel is jong (77% in de leeftijd 18-37), relatief hoogopgeleid en ook vaak gevestigd in de Westerse landen.
“How often do you get bonuses after they are promised? Just curious what other's experiences are. I knew that a lot of researchers straight up lie about them to increase data quality.”
u/gravity_kill
De aandacht voor lage lonen – een economische en politieke vraag – maskeert echter een ander, veel belangrijker probleem. Dat probleem zit in de manier waarop systemen als MTurk zijn ontworpen. De belofte is dat deze systemen de arbeidsmarkt veel inclusiever maken. Deels is dat terecht; gemarginaliseerde groepen kunnen zich zonder uitsluiting aanmelden als MTurker, mits ze over een laptop en internetverbinding beschikken. Met werkers over de hele wereld is er een bepaalde mate van inclusiviteit.
De grote vraag die deze systemen oproepen is
wat diversiteit in deze arbeidsmarkt betekent
Tegelijkertijd is het juist het systeem zelf dat die inclusiviteit frustreert. In de praktijk kunnen opdrachtgevers namelijk nog steeds strikte voorwaarden stellen in de selectie van de werkers die mee mogen doen. De werkers zijn bovendien volledig afhankelijk van het systeem, dat soms hapert, of onverklaarbare beslissingen neemt. Inclusiviteit staat op het spel wanneer sommige werkers stelselmatig worden geweerd zonder te weten waarom. Onderling contact tussen de werkers om ervaringen te vergelijken – of zich te verenigen – is er niet, zij werken in dit systeem volledig afgeschermd en geïsoleerd. Veel werkers zoeken daarom toevlucht naar fora als Reddit, waar ze problemen en onprettige ervaringen met elkaar delen.
“I updated Mturk suite this morning and have been having issues all day. (...) I can't figure out how to fix it. It started with the update.”
u/moonlightenvy
De grote vraag die deze systemen oproepen is wat diversiteit in deze arbeidsmarkt betekent. Waar de werkers waarschijnlijk divers ten opzichte van elkaar zijn, heeft dat in micro tasks weinig betekenis. De taken zijn veelal te simpel om die verschillen tot uiting te brengen in het werk. Ook zorgt een evenwichtige personeelssamenstelling niet voor een inclusieve cultuur, omdat de digitale werkers geïsoleerd worden. Voor werkers in MTurk zijn er geen mogelijkheden om hun menselijkheid tot uitdrukking te brengen. Dát is waarom diversiteit in deze systemen uiteindelijk een illusie is. Een illusie die haaks staat op het diversiteitsbeleid dat big tech aan de voorkant verkondigt.
Guest Worker
Hoe maken we deze vragen die systemen als MTurk oproepen tastbaar? In opdracht van NSvP en SETUP doken ontwerpers Merijn van Moll en Ruben van de Ven in de wereld van ghost workers. Ze maakten in MTurk een nieuwe HIT aan, met als opdracht “Trace the drawn line”. De opdracht begint met een vierkant, die de eerste werker digitaal met de muis moet overtrekken. Dat werk is vervolgens weer input voor de volgende MTurker. In elke iteratie ontstaan er kleine afwijkingen. In dit zelfversterkende effect verdwijnen de strakke lijnen al snel, en maken plaats voor abstracte en organische vormen. Merijn en Ruben’s fysieke installatie tekent met een uitwisbare marker live de bewegingen die de MTurker op dat moment maakt. Voor de volgende werker begint, wordt het scherm weer uitgewist en begint het proces opnieuw.
Dit werk zorgt ervoor dat de ghost workers opeens zichtbaar en ‘fysiek aanwezig’ worden – ze worden als ‘guest worker’ opgeroepen in de ruimte. Als toeschouwer kijk je live naar het werk dat uitgevoerd wordt. Omdat de werkers elkaars werk natekenen, ontstaat er impliciet ook interactieve tussen de verschillende werkers wereldwijd. Het resultaat van deze installatie werkt paradoxaal; enerzijds maakt het de ghost workers voor het eerst real-time zichtbaar. Tegelijkertijd kost elke HIT tijdens de presentatie van deze installatie daadwerkelijk geld, waar Amazon 20% commissie aan overhoudt.
In de ontwikkeling ontstonden er leerzame en confronterende gesprekken met de werkers zelf. Zo had de tekenopdracht een beperkte beschikbare tijd, en werden er maatregelen genomen om te zorgen dat werkers de opdracht niet oneindig zouden herhalen, zodat de groep deelnemers diverser werd. Die acties leidden onbedoeld tot pijnlijke situaties voor de werker:
“Hi. I noticed that you may have blocked my account to prevent me from retaking your study. Account blocks hurt workers because Amazon uses them as a flag for nefarious activity. Too many account blocks and a worker can have their account suspended. Is it possible for you to remove the block from my account please? Also, I didn't even get paid for taking your study. The timer on the HIT was so short that it expired before I had completed my tracing. As a suggestion, you could look into using qualifications to restrict access to your HIT and extend the timer. Thank you for your time.”
De ‘echte’ last mile
Guest Worker maakt deze verborgen arbeidersklasse zichtbaar. Het maakt ook duidelijk dat hier van een evenwichtige samenwerking tussen mens en machine geen sprake is. Voor de menselijke werkers ontbreken er mogelijkheden om hun menselijke meerwaarde tot uitdrukking te brengen, waardoor inclusiviteit en diversiteit loze begrippen worden. Om daar te komen, moeten we af van het idee dat technologie volledig autonoom gaat – en moet – zijn. De daadwerkelijke ‘last mile’ is dat we menselijke werkers gaan zien als meer dan de tijdelijke hulpjes van AI.
Dit artikel ontstond in samenwerking met SETUP en werd geschreven door redacteur Frank-Jan van Lunteren. Over de AI Makers Challenge van SETUP en de NSvP verscheen eerder een artikel, waarin de verschillende installaties worden geïntroduceerd die effecten van algoritmisch solliciteren zichtbaar maken. Guest Worker is een van deze installaties.
