Interview met filmmaker Shalini Kantayya
Shalini Kantayya is de Amerikaanse filmmaker en milieuactivist achter de indringende documentaire Coded Bias. In de film start Joy Buolamwini (MIT) een onderzoek naar de impliciete vooroordelen in kunstmatige intelligentie en ontdekt dat veel algoritmes, die vooral door witte mannen gemaakt worden, anders – of niet – reageren op mensen die dit niet zijn. Samen met andere vrouwen strijdt Joy voor rechtvaardigheid in de geautomatiseerde samenleving van vandaag. Met deze documentaire vertelt Kantayya een belangrijk verhaal. Hoe pakt ze dan precies aan?
Hoe heb je voor het eerst gehoord over Joy Buolamwini en haar onderzoek?
Ik denk dat ik het misschien voor het eerst heb gezien in een TED-talk. Ik begon het werk van Cathy O’Neil en Safiya Noble en zoveel anderen te lezen. Dat heeft me doen duiken in het konijnenhol van de donkere wereld van technologie.
Was Joy je introductie in het onderwerp of een van de andere schrijvers?
Ik deed onderzoek naar schrijvers over het thema op hetzelfde moment dat ik Joy ontmoette. Ze was ongelooflijk scherpzinnig en deed ook ongelooflijk werk om het bewustzijn te vergroten en gemeenschappen die werden gemarginaliseerd, te onderwijzen en te versterken.
Maar je had voor deze bijeenkomst al een idee voor deze documentaire?
Ja, dat klopt.
Wanneer besloot je om van Joy het beginpunt van dit verhaal te maken?
Je volgt altijd bepaalde karakters om een documentaire te maken. Ik denk dat het was toen we documenteerden dat ze naar Capitol Hill ging, dat ik wist dat we een documentaire verhaal hadden.
Heb je andere dingen gefilmd voordat je bij haar kwam?
Nee, mijn opnamen waren erg gefocust op deze documentaire. Ik heb de film in minder dan twee jaar voltooid, wat erg kort is voor een onafhankelijke documentaire.
Had je voor dit project interesse in technologie of bracht de burgerrechtenhoek je erbij. Of allebei?
Oh, beide! Als activistische filmmaker onderzoekt veel van mijn werk ontwrichtende technologieën en hoe deze de meest kwetsbaren onder ons beïnvloeden. Mijn vorige film, Catching the Sun, ging over hoe kleinschalige zonne-energie de arbeidersklasse en gekleurde gemeenschappen kan verhefffen. Dat was veel utopischer. Coded Bias verkent een ander soort ontwrichtende technologie voor burgerrechten.
Deze film is meer dystopisch, althans in de veronderstelling. Als je zoveel hoort over de donkere kant van technologie, vind je het dan moeilijk om optimistisch te blijven?
Ik ben erg optimistisch! Mijn film gaat over een kleine groep mensen die de wereld veranderen. Bij het maken van deze film heb ik gezien hoe slecht een paar mensen al een groot verschil kunnen maken.
Onze slogan is Our Future in the Making. Het lijkt erop dat je denkt dat we een betere toekomst kunnen maken.
Absoluut! We hebben een moonshot-moment waarop we net aan het begin van het gesprek staan. We hebben de mogelijkheid om op te komen voor gegevensrechten. Jullie in Europa hebben daar al een gesprek over en in de VS hoop ik echt dat we dit gesprek kunnen beginnen als de thuisbasis van al deze technologiebedrijven.
“Het echte gesprek begint wanneer het licht aangaat en je praat met de persoon naast je”
Je zei dat je erg gefocust was tijdens het maken van deze documentaire. Was er nog iets dat het vermelden waard is dat je tijdens het maakproces leerde over vooringenomen technologie, die niet in de uiteindelijke film gekomen is?
Er is zoveel het vermelden waard. Ik vertel mensen altijd dat ze alle boeken moeten lezen van de mensen die in de film voorkomen. En zoals ik al zei, het is nog maar het begin van het gesprek. Het echte gesprek begint wanneer het licht aangaat en je praat met de persoon naast je. Veel ervan zorgt ervoor dat het publiek meer begrip krijgt over hoe deze systemen werken en de wetenschap erachter. Daarom ben ik festivals als InScience dankbaar die wetenschap via film hebben weten te communiceren, omdat ik denk dat deze hand in hand gaan. Het onderwerp is gewoon enorm en ik hoop dat mensen na het zien van Coded Bias hun eigen intellectuele nieuwsgierigheid zullen volgen.
Er zitten veel personages en elementen in je verhaal, maar toch voelt de film heel toegankelijk en vloeit hij heel goed. Hoe heb je dat voor elkaar gekregen?
Het was een heel moeilijk proces om de film logisch te maken, maar het verhaal van Joy was een geschenk, omdat het ons een verhaal gaf. Toen we de opening maakten, waar Joy ontdekt dat de technologie die ze voor haar project gebruikt, bevooroordeeld is en ze naar de hoofdstad gaat, wist ik dat er een boog was om het verhaal aan op te hangen. Haar vriendschap met Cathy en hoe deze vrouwelijke datawetenschappers hun krachten bundelen, dat maakte allemaal deel uit van het verhaal van de film.
Dit is misschien een meer persoonlijke vraag, maar heb je als vrouw van kleur ooit zelf enkele van de negatieve aspecten van technologie ervaren?
Ja, er is één bedrijf waar ik op een of andere algoritmische lijst sta, waar ik documentatie naartoe stuur maar geen gehoord krijg. Ik heb geprobeerd contact met ze op te nemen, ik stuur ze documentatie, maar het mocht niet baten. En als ik online een Indiaas recept probeer te vinden, wordt mijn hele YouTube-aanbeveling volledig Indiaas. YouTube stereotypeert me met slechts een bepaald soort inhoud waarin ik geacht wordt geïnteresseerd te zijn, alsof ik maar één smaak heb, terwijl ik in werkelijkheid een brede smaak heb.