Molly Vs. The Machines

VPRO / zondag 27 september, om 22.40 uur, op NPO2

Zoals elke avond had hij de voordeur afgesloten. Via de smartphone van zijn puberdochter kwam de buitenwereld echter alsnog binnen. In de nacht van 20 op 21 november 2017 maakte Molly Russell een einde aan haar jonge leven. Sindsdien voert haar vader Ian, namens haar en al die andere tieners die zijn overgeleverd aan social media, strijd tegen de tech-giganten. In de laatste uren van haar leven werd Molly op Instagram, onderdeel van Meta, gebombardeerd met berichten over zelfdoding, depressie en zelfpijniging. Totdat ze daar fatale consequenties aan verbond.

In de urgente documentaire Molly Vs The Machines (uitzendtitel: Molly versus het algoritme, 83 min.), geïnspireerd op het boek The Age Of Surveillance Capitalism van Harvard-hoogleraar Shoshana Zuboff, plaatst Marc Silver de tragische casus van de Britse tiener binnen de evolutie van het internet, het ontstaan van sociale media en de doorontwikkeling daarvan tot platforms voor ‘surveillance kapitalisme’. Uit de levens van gewone burgers destilleert Big Tech voorspellingen, die worden verkocht aan de hoogste bieder. Met hun eigen gebruikers, inclusief kwetsbare kinderen, als handelswaar.

Instagram heeft mijn veertienjarige dochter helpen doden, concludeert Ian Russell, die besluit om terug te vechten tegen de algoritmes en de tech-bro’s voor de rechter daagt. Hij fungeert als hoofdpersoon voor deze ingenieuze film, waarin daarnaast nog een andere verteller, gecreëerd met behulp van AI, wordt geïntroduceerd. Die schetst de techkant van de kwestie. Trefzeker reconstrueert Silver, met acteurs in een onwerkelijk decor, bovendien de rechtszitting, waarin zij tegenover elkaar komen te staan. Molly’s familie, haar vriendinnen en hun advocaten kijken toe.

Molly’s persoonlijke geschiedenis wordt zo vastgeklikt aan het Metaverhaal, waarin we allemaal – inclusief ons dierbaarste bezit, onze kinderen – participeren in een sociaal experiment. Daarbij geeft Silver, via enkele klokkenluiders, een alarmistische boodschap af: de techreuzen zijn zich bewust van de schade die hun product kan veroorzaken, maar willen er niets aan doen. Illustratief is de reactie van Meta-baas Mark Zuckerberg na de herverkiezing van Donald Trump als president van de Verenigde Staten: het moet afgelopen zijn met censuur op onze platforms.

De vrijheid van meningsuiting staat weer voorop, heet ‘t dan. ‘In reality it’s a trade off’, stelt Zuckerberg. ‘It means we’re gonna catch less bad stuff.’ Ian Russell bekijkt ‘t met een cynische glimlach. Catch. Less. Bad. Stuff. ‘Het is nu wel duidelijk dat veiligheid deze platforms geen ene zier kan schelen’, verzucht hij. Waarna Marc Silver er nog een dwingende call to action aan toevoegt: ‘Eis je slaapkamers weer op als plekken van privacy, veiligheid en zelfbeschikking. Vergeet niet: de macht ligt in jouw handen!’

Eternal You

creatie avatar: Gareth Moon / Gebrueder Beetz

Hij is bang. ‘Ik ben het nu eenmaal niet gewend om dood te zijn’, zegt Cameroun tegen zijn vriendin Christi Angel. Via de Artificial Intelligence-service Project December, kunnen de twee met elkaar communiceren – ook al is hij, inderdaad, al enige tijd overleden.

Project December, een AI-toepassing die is ontwikkeld door de startup van de Amerikanen Jason Rohrer en Tom Bailey, is onderdeel van een groeimarkt. Elk jaar sterven er tientallen miljoenen mensen. Veel nabestaanden hebben de behoefte om nog iets tegen hen te zeggen, even van hen te horen of zomaar een praatje te maken. Nieuwe ondernemingen zoals HereAfter.ai, YOV en Soul Machines spelen maar al te graag in op die vraag. En de techniek waarvan zij zich bedienen, die volgens OpenAI-voorman Sam Altman in potentie elk aspect van ons leven kan verbeteren (of ruïneren), wordt steeds immersiever. De kopie is soms nauwelijks van het origineel te onderscheiden.

Zo luistert de hele familie van Stephenie Oney ademloos naar de met Resemble AI gekloonde stem van opa Bill, die toch echt al een tijdje niet meer onder hen is. Bills virtuele terugkeer zorgt voor verbazing, ontroering én scepsis. Zoals zijn stem nu wordt gebruikt om zijn verhaal te vertellen, constateert een familielid, kan met diezelfde stem ook zijn verhaal wordt verzonnen. En juist op die ethische implicaties van de toepassingen van generatieve AI richten Hans Block en Moritz Riesewieck, die ook in The Cleaners en Made To Measure al de achterkant van het internet en moderne technologie onderzochten, zich in de intrigerende documentaire Eternal You (86 min.).

Want wat nu als zo’n ‘overledene’ uit de bocht vliegt? Als Cameroun bijvoorbeeld vertelt dat hij zich in de hel bevindt en is omringd door louter verslaafden, begint de gelovige Christi Angel zich af te vragen of ze misschien onbedoeld een demon heeft gecreëerd. Jason Rohrer van Project December reageert laconiek. ‘Ik geloof niet dat hij in de hel is’, zegt hij lachend. ‘Ik geloof trouwens ook niet dat hij in de hemel is. Als ze mijn mening wil, heb ik slecht nieuws voor haar: hij bestaat helemaal niet meer. Zo denk ik erover. Dat is zelfs nog slechter voor haar. Volgens mij deugt haar hele geloof niet.’ Zonder scrupules biedt hij haar niettemin een digitale variant op het eeuwige leven aan.

Los van de menselijke implicaties van het idee van postume communicatie – kunnen we deze nieuwe mogelijkheden eigenlijk wel bevatten, wat betekenen ze ‘In Real Life’ en welke plek neemt rouwen daar dan nog in? – heeft dat ook allerlei praktische consequenties. Weten we bijvoorbeeld werkelijk hoe de Artificial Intelligence-techniek werkt? En van wie zijn de data van de overledene? Intussen gaan de ontwikkelingen natuurlijk gewoon in sneltreinvaart door. In het Zuid-Koreaanse tv-programma Meeting You heb je als nabestaande bijvoorbeeld al de kans – John de Mol en co. opgelet! – om in Virtual Reality een digitale kloon van een gestorven dierbare te ontmoeten.

De rouwende moeder Jang Ji-Sung kon er nog eenmaal een geïdealiseerde versie van haar overleden dochtertje Nayeon in de armen sluiten – en de rest van de wereld mocht, inderdaad, lekker meegenieten.