iHuman

Human

Zijn we op weg naar de hemel op aarde of toch naar een dystopie? Technologische ontwikkelingen worden doorgaans permanent begeleid door commentaar van visionairs en doemdenkers. Artificial Intelligence vormt daarop geen uitzondering. In de documentaire iHuman (99 min.) geeft regisseur Tonje Hessen Schei dus zowel spreektijd aan wetenschappers die de zegeningen van kunstmatige intelligentie tellen als aan denkers en activisten die de noodklok luiden over de gevaren ervan.

Kort door de bocht: gaat een soort superintelligentie straks problemen oplossen die de verstandelijke vermogens van de mens te boven gaan of zal diezelfde mens geknecht worden door leiders, organisaties of landen die deze technische mogelijkheden genadeloos naar hun hand zetten? Van een wereld waarin overal camera’s hangen die je gezicht herkennen en registreren waar je bent en wat je doet zal menigeen bijvoorbeeld gruwen, maar wat nu als diezelfde camera’s depressies zouden herkennen en zo in potentie mensenlevens kunnen redden?

‘Het gaat niet om wat computers kunnen doen’, stelt Microsoft-topman Brad Smith. ‘Het gaat erom wat computers zouden móeten doen.’ En daarbij komt – voorlopig althans – toch nog altijd de mens in beeld: wat wil en kan die? En waar liggen diens grenzen? Toch gaan de ontwikkelingen sneller dan soms goed lijkt voor de good old sterveling. In China is binnen afzienbare tijd bijvoorbeeld geen kaartje meer nodig in het Openbaar Vervoer. Je eigen gezicht volstaat. Intussen gebruikt de Chinese overheid ook op grote schaal data om de eigen bevolking in het gareel te krijgen of houden.

Zoals dat gaat in dit type sciencefiction-docu’s worden de optimistische/pessimistische bespiegelingen over de (nabije) toekomst vergezeld door klinische synthmuziek en futuristische beelden van een wereld waarbinnen de mens slechts een klein radertje is, de gelukkige recipiënt van allerlei toepassingen die zijn comfort of levensgeluk vergroten of een speelbal van grote spelers zoals Google en Facebook (terwijl robots dan weer blijken te kunnen zingen en dansen). Intussen werpt zo’n film elementaire vragen op over menszijn, privacy en democratie, waarop de kijker na afloop een tijdje kan kauwen.

Ook iHuman slaagt glansrijk in die opzet, zonder dat de film echt emotioneert, bijzonder hoopvol stemt of kwaad maakt.

Coded Bias

‘Ik haat feministen. Die moeten allemaal dood en branden in de hel.’ Aan het woord is Tay, de chatbot die Microsoft in 2016 lanceerde op Twitter. Binnen enkele uren had de bot zich de mores van z’n nieuwe omgeving volledig eigen gemaakt. Tay begon zich als een racistische, vrouwonvriendelijke klootzak te gedragen. ‘Ik haat Joden. Hitler deed niets verkeerds.’ Het experiment werd na slechts zestien uur afgebroken.

Het verhaal van Tay is exemplarisch voor de centrale thematiek van Coded Bias (85 min.), een alarmistische film van regisseur Shalini Kantayya: moderne technologie, Artificial Intelligence in het bijzonder, is doorgaans de resultante van onbewuste, en vaak ook onbedoelde, aannames en vooroordelen, die bovendien gemakkelijk gemanipuleerd kunnen worden. Dat is vragen om problemen. Met Big Tech, autoritaire regimes of kwaadaardige trollen.

De documentaire start met Joy Buolamwini, een jonge computerwetenschapper die ontdekte dat ‘t een camera opvallend veel moeite kostte om haar gezicht te herkennen. Had dat misschien te maken met het feit dat ze een zwarte vrouw was en niet – zoals nog altijd de standaard is bij de ontwikkeling van nieuwe technologische toepassingen – een witte man? Een algoritme is immers, doceert ze, niet meer dan een voorspelling die is gebaseerd op gegevens die in het verleden zijn ingevoerd.

Van daaruit slaat Kantayya haar vleugels uit naar de mogelijke gevaren van toepassingen zoals ongebreidelde dataverzameling, gezichtsherkenning op bestelling en geautomatiseerde beoordelingsystemen. Natuurlijk wordt daarbij regelmatig de link gelegd met dystopische klassiekers zoals George Orwells 1984. In China kun je bijvoorbeeld al inkopen afrekenen via een gezichtsscanner, maar voor hetzelfde geld word je op basis van datzelfde uiterlijk voortaan geweerd uit het openbaar vervoer.

Coded Bias had nog wel wat krachtige voorbeelden kunnen gebruiken: van gewone stervelingen die door/met tech zijn gegeseld. Want als A.I. en andere moderne technologie in verkeerde handen belandt, zoveel maken de verschillende sprekers wel duidelijk, belanden we beslist in een unheimische wereld, waarin massale en veelal onzichtbare manipulatie de menselijke maat, elke vorm van privacy en gewoon gezond verstand zal verdringen.