Coded Bias

‘Ik haat feministen. Die moeten allemaal dood en branden in de hel.’ Aan het woord is Tay, de chatbot die Microsoft in 2016 lanceerde op Twitter. Binnen enkele uren had de bot zich de mores van z’n nieuwe omgeving volledig eigen gemaakt. Tay begon zich als een racistische, vrouwonvriendelijke klootzak te gedragen. ‘Ik haat Joden. Hitler deed niets verkeerds.’ Het experiment werd na slechts zestien uur afgebroken.

Het verhaal van Tay is exemplarisch voor de centrale thematiek van Coded Bias (85 min.), een alarmistische film van regisseur Shalini Kantayya: moderne technologie, Artificial Intelligence in het bijzonder, is doorgaans de resultante van onbewuste, en vaak ook onbedoelde, aannames en vooroordelen, die bovendien gemakkelijk gemanipuleerd kunnen worden. Dat is vragen om problemen. Met Big Tech, autoritaire regimes of kwaadaardige trollen.

De documentaire start met Joy Buolamwini, een jonge computerwetenschapper die ontdekte dat ‘t een camera opvallend veel moeite kostte om haar gezicht te herkennen. Had dat misschien te maken met het feit dat ze een zwarte vrouw was en niet – zoals nog altijd de standaard is bij de ontwikkeling van nieuwe technologische toepassingen – een witte man? Een algoritme is immers, doceert ze, niet meer dan een voorspelling die is gebaseerd op gegevens die in het verleden zijn ingevoerd.

Van daaruit slaat Kantayya haar vleugels uit naar de mogelijke gevaren van toepassingen zoals ongebreidelde dataverzameling, gezichtsherkenning op bestelling en geautomatiseerde beoordelingsystemen. Natuurlijk wordt daarbij regelmatig de link gelegd met dystopische klassiekers zoals George Orwells 1984. In China kun je bijvoorbeeld al inkopen afrekenen via een gezichtsscanner, maar voor hetzelfde geld word je op basis van datzelfde uiterlijk voortaan geweerd uit het openbaar vervoer.

Coded Bias had nog wel wat krachtige voorbeelden kunnen gebruiken: van gewone stervelingen die door/met tech zijn gegeseld. Want als A.I. en andere moderne technologie in verkeerde handen belandt, zoveel maken de verschillende sprekers wel duidelijk, belanden we beslist in een unheimische wereld, waarin massale en veelal onzichtbare manipulatie de menselijke maat, elke vorm van privacy en gewoon gezond verstand zal verdringen.

The Social Dilemma

Netflix

‘Toen ik daar werkte had ik echt het gevoel dat we met iets goeds bezig waren’, zegt de voormalige toptechneut van Twitter. ‘Nu weet ik dat niet meer zo zeker.’

‘Ik maak me ernstige zorgen’, vult de mede-uitvinder van onder meer Google Drive en de like-knop van Facebook aan. ‘Grote zorgen.’

‘Het is gemakkelijk om uit het oog te verliezen dat deze tools zijn gemaakt om mooie dingen te doen in de wereld’, zegt een voormalige leidinggevende bij zowel Facebook als Pinterest. ‘Ze hebben verloren familieleden herenigd en orgaandonoren gevonden. Er zijn overal ter wereld ingrijpende veranderingen geweest dankzij deze platforms. We waren alleen naïef wat betreft de andere kant van de medaille.’

In The Social Dilemma (95 min.) luiden voormalige medewerkers van techgiganten de noodklok: hun geesteskinderen dreigen een monster van Frankenstein te worden, dat de samenleving grondig zou kunnen ontwrichten. De kern van hun betoog zit misschien wel in die ene eenvoudige constatering: als je niet betaalt voor het product, dan bén je het product. Ofwel: in werkelijkheid bestaat de klantenkring van social media uit adverteerders en zijn normale gebruikers niets meer dan koopwaar. Die mogen dus naar hartenlust worden verhandeld en beïnvloed, ook als dat ten koste gaat van hun persoonlijke welzijn of de sociale cohesie in de wereld waartoe ze behoren.

Die alarmerende boodschap is natuurlijk al vaker afgegeven, maar wordt hier ook echt gestut met ‘daderkennis’ vanuit de onderbuik van Big Tech, waar psychologische inzichten worden gebruikt/misbruikt om het publiek volledig verslaafd te maken aan hun product. Met alle maatschappelijke gevolgen van dien: van vereenzaming en depressies tot stammenoorlogen en samenzweringstheorieën. Regisseur Jeff Orlowski vervlecht de bijbehorende doemscenario’s van deze insiders met een fictief en tamelijk clichématig verhaaltje over een jongen die via sociale media langzaam in zijn eigen echoput dondert.

De kwade genius daarachter, die van gewone stervelingen willoze laboratoriumratten maakt, krijgt bovendien letterlijk een gezicht via acteur Vincent Kartheiser (Pete Campbell uit de serie Mad Men). Vanuit een soort controleruimte, die zomaar een decorstuk van Star Trek had kunnen zijn, manipuleert hij de protagonist alle kanten op. Dat eendimensionale Hollywood-verhaallijntje akkedeert niet helemaal met de toon en boodschap van het documentairedeel. Want deze film wil wel degelijk een serieuze oproep doen tot een ethisch reveil bij Big Tech. Vooralsnog lijken de Zuckerbergs van deze wereld daarvan alleen nog niet echt warm of koud te worden.

The Great Hack

Is deze geest ooit nog in de fles te krijgen? vraag je je in gemoede af na The Great Hack (114 min.), een unheimische film van Karim Amer en Jehane Noujaim over hoe het verzamelen van onwerkelijke hoeveelheden persoonlijke data door techgiganten en de (online) inzet daarvan voor propaganda-doeleinden wereldwijd een bedreiging vormen voor de democratie.

De filmmakers, die eerder samen de bekroonde docu The Square over het begin van de Arabische Lente op het Egyptische Tahrir-plein maakten, focussen zich op één concrete casus: Cambridge Analytica, het Britse bedrijf dat illegaal enorme datacollecties van Facebook ripte en daarmee online campagnes opzette om stiekem het stemgedrag van grote groepen mensen, de zogenaamde ‘persuadables’, te beïnvloeden. De Britse keuze voor een Brexit en de verkiezing van Trump gelden als hun voornaamste wapenfeiten – al blijft schimmig welke invloed de politieke marketeers nu precies hebben gehad.

Cambridge Analyticas business model voelt voor de Engelse schrijver en politiek technoloog Paul Hilder in elk geval ‘als een inbreuk op de autonomie en vrijheid van een individu en het idee van democratie’. Hij spoort ‘somewhere in Thailand’ voormalig kopstuk Brittany Kaiser op en confronteert haar met die onrustbarende conclusie. ’Ik weet het niet’, houdt de vrouw, die een sleutelrol speelde bij het Britse bedrijf en begin 2018 ineens last kreeg van haar geweten, de boot af.

Zij verwijst naar het door haar en haar collega’s gemanipuleerde stemvee in Amerikaanse swing states en het Engelse Leave-kamp. ‘Uiteindelijk zijn zij degenen die het stembiljet invullen.’ Liever spreekt Kaiser over haar leven vóór Cambridge Analytica toen ze werkte voor Team Obama en zich volgens eigen zeggen bezighield met mensenrechten en internationale betrekkingen. Totdat ze dus op een onbewaakt ogenblik, toen het water haar en de haren aan de lippen stond, Cambridge-CEO Alexander Nix tegenkwam…

Wil de enigmatische Brittany Kaiser, die inmiddels onder de noemer OwnYourData een eigen campagne voor meer transparantie is begonnen, werkelijk openheid van zaken geven? Of probeert ze vooral haar eigen straatje schoon te vegen? The Great Hack geeft daarop geen eenduidig antwoord. In die zin is ze een ideaal documentairepersonage: a woman you love to hate. Die je op zijn minst wantrouwt. Met een achtergrond waarin, wellicht, ook wel weer een geloofwaardige verklaring huist voor haar gedrag.

Intussen eist de New Yorkse dataprofessor David Carroll in een Britse rechtbank de van hem gestolen persoonlijke gegevens terug, vergelijkt onderzoeksjournaliste Carole Cadwalladr Cambridge Analyticas propagandacampagne met PSYOPS, een psychologische oorlogsvoeringscampagne van de CIA, en is de voormalige CFO van de gewraakte Engelse onderneming nog altijd geschokt dat juist zijn werkgever publiekelijk onder vuur is komen te liggen.

Gezamenlijk schetsen deze insiders een schemerwereld waarin ‘data’ de plek van ‘olie’ als meest waardevolle grondstof hebben ingenomen, morele overwegingen nauwelijks een rol lijken te spelen en in de tussentijd ons on(der)bewuste op alle mogelijke manieren wordt bespeeld. Met datamisbruik, fake news en haatcampagnes als logisch gevolg. Deze documentaire, vlot verteld en lekker bij de tijds vormgegeven, doet zo een overtuigend appel op eenieder die de democratie een warm hart toedraagt, om zich daartegen véél beter te gaan wapenen.