Coded Bias

‘Ik haat feministen. Die moeten allemaal dood en branden in de hel.’ Aan het woord is Tay, de chatbot die Microsoft in 2016 lanceerde op Twitter. Binnen enkele uren had de bot zich de mores van z’n nieuwe omgeving volledig eigen gemaakt. Tay begon zich als een racistische, vrouwonvriendelijke klootzak te gedragen. ‘Ik haat Joden. Hitler deed niets verkeerds.’ Het experiment werd na slechts zestien uur afgebroken.

Het verhaal van Tay is exemplarisch voor de centrale thematiek van Coded Bias (85 min.), een alarmistische film van regisseur Shalini Kantayya: moderne technologie, Artificial Intelligence in het bijzonder, is doorgaans de resultante van onbewuste, en vaak ook onbedoelde, aannames en vooroordelen, die bovendien gemakkelijk gemanipuleerd kunnen worden. Dat is vragen om problemen. Met Big Tech, autoritaire regimes of kwaadaardige trollen.

De documentaire start met Joy Buolamwini, een jonge computerwetenschapper die ontdekte dat ‘t een camera opvallend veel moeite kostte om haar gezicht te herkennen. Had dat misschien te maken met het feit dat ze een zwarte vrouw was en niet – zoals nog altijd de standaard is bij de ontwikkeling van nieuwe technologische toepassingen – een witte man? Een algoritme is immers, doceert ze, niet meer dan een voorspelling die is gebaseerd op gegevens die in het verleden zijn ingevoerd.

Van daaruit slaat Kantayya haar vleugels uit naar de mogelijke gevaren van toepassingen zoals ongebreidelde dataverzameling, gezichtsherkenning op bestelling en geautomatiseerde beoordelingsystemen. Natuurlijk wordt daarbij regelmatig de link gelegd met dystopische klassiekers zoals George Orwells 1984. In China kun je bijvoorbeeld al inkopen afrekenen via een gezichtsscanner, maar voor hetzelfde geld word je op basis van datzelfde uiterlijk voortaan geweerd uit het openbaar vervoer.

Coded Bias had nog wel wat krachtige voorbeelden kunnen gebruiken: van gewone stervelingen die door/met tech zijn gegeseld. Want als A.I. en andere moderne technologie in verkeerde handen belandt, zoveel maken de verschillende sprekers wel duidelijk, belanden we beslist in een unheimische wereld, waarin massale en veelal onzichtbare manipulatie de menselijke maat, elke vorm van privacy en gewoon gezond verstand zal verdringen.

The Fall

De grootte van het podium, hun eigen torenhoge ambities of gewoon het noodlot zet soms sporters tegenover elkaar, die voor altijd in één adem zullen worden genoemd. Muhammad Ali en Joe Frazier. Tonya Harding en Nancy Kerrigan. Bjorn Borg en John McEnroe. Met gouden pen zijn hun al dan niet heroïsche gevechten in de sportgeschiedenisboeken bijgeschreven.

Een ander duo dat tot elkaar veroordeeld is geraakt staat centraal in de stevige documentaire The Fall (90 min.): Mary Decker en Zola Budd. Tijdens de Olympische Spelen van 1984 in Los Angeles bonden ze de strijd met elkaar aan op de 3000 meter. De Amerikaanse wereldkampioene tegenover een frêle Zuid-Afrikaanse tiener, die het liefst blootvoets liep en net voor de Spelen was ingelijfd door de Britse ploeg.

Als blanke atlete uit een land dat wereldwijd werd geboycot vanwege het Apartheidsregime, lag Budd toen al gedurig onder vuur. Ze wilde zich niet uitspreken tegen de misstanden in haar land. Zelf zegt ze nu dat ze toentertijd niet eens wist wie Nelson Mandela was. De man was immers al voor haar geboorte vastgezet en werd sindsdien stilgezwegen in Zuid-Afrikaanse media. Het klinkt niet eens heel ongeloofwaardig.

Terwijl Zola Budd ongewild het middelpunt was van een politieke controverse, werd ook de druk op haar Amerikaanse rivale, de gedoodverfde favoriete Decker, flink opgevoerd. Dit moesten haar Spelen worden. Nadat ze al enkele edities, buiten haar eigen schuld, aan zich voorbij had moeten laten gaan. Maar was de ogenschijnlijk zo goedlachse loopster uit Californië nog wel onverslaanbaar?

Los van elkaar blikken de twee atleten ruim dertig jaar na dato terug op de aanloop naar de wedstrijd die hun levens zou definiëren. De herinneringen van Decker en Budd zijn parallel gemonteerd door filmmaker Daniel Gordon (die eerder al sportdocu’s als George Best: All By Himself en het ijzersterke 9,79 regisseerde). Hij werkt zo gestaag toe naar het dramatische moment tijdens de Olympische finale dat hen allebei zal breken.

Die ene fatale misstap, waarbij de meningen verschillen over wie die op zijn geweten heeft, maakte de twee rivalen tevens tot aartsvijanden. Het is de vraag of de twee dames die schaduw van zich af weten te werpen en in de slotmeters van deze film alsnog tot een oprechte verzoening kunnen komen.