‘Ik haat feministen. Die moeten allemaal dood en branden in de hel.’ Aan het woord is Tay, de chatbot die Microsoft in 2016 lanceerde op Twitter. Binnen enkele uren had de bot zich de mores van z’n nieuwe omgeving volledig eigen gemaakt. Tay begon zich als een racistische, vrouwonvriendelijke klootzak te gedragen. ‘Ik haat Joden. Hitler deed niets verkeerds.’ Het experiment werd na slechts zestien uur afgebroken.

Het verhaal van Tay is exemplarisch voor de centrale thematiek van Coded Bias (85 min.), een alarmistische film van regisseur Shalini Kantayya: moderne technologie, Artificial Intelligence in het bijzonder, is doorgaans de resultante van onbewuste, en vaak ook onbedoelde, aannames en vooroordelen, die bovendien gemakkelijk gemanipuleerd kunnen worden. Dat is vragen om problemen. Met Big Tech, autoritaire regimes of kwaadaardige trollen.

De documentaire start met Joy Buolamwini, een jonge computerwetenschapper die ontdekte dat ‘t een camera opvallend veel moeite kostte om haar gezicht te herkennen. Had dat misschien te maken met het feit dat ze een zwarte vrouw was en niet – zoals nog altijd de standaard is bij de ontwikkeling van nieuwe technologische toepassingen – een witte man? Een algoritme is immers, doceert ze, niet meer dan een voorspelling die is gebaseerd op gegevens die in het verleden zijn ingevoerd.

Van daaruit slaat Kantayya haar vleugels uit naar de mogelijke gevaren van toepassingen zoals ongebreidelde dataverzameling, gezichtsherkenning op bestelling en geautomatiseerde beoordelingsystemen. Natuurlijk wordt daarbij regelmatig de link gelegd met dystopische klassiekers zoals George Orwells 1984. In China kun je bijvoorbeeld al inkopen afrekenen via een gezichtsscanner, maar voor hetzelfde geld word je op basis van datzelfde uiterlijk voortaan geweerd uit het openbaar vervoer.

Coded Bias had nog wel wat krachtige voorbeelden kunnen gebruiken: van gewone stervelingen die door/met tech zijn gegeseld. Want als A.I. en andere moderne technologie in verkeerde handen belandt, zoveel maken de verschillende sprekers wel duidelijk, belanden we beslist in een unheimische wereld, waarin massale en veelal onzichtbare manipulatie de menselijke maat, elke vorm van privacy en gewoon gezond verstand zal verdringen.

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit /  Bijwerken )

Google photo

Je reageert onder je Google account. Log uit /  Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit /  Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit /  Bijwerken )

Verbinden met %s

Deze site gebruikt Akismet om spam te bestrijden. Ontdek hoe de data van je reactie verwerkt wordt.