“We geloofden dat Facebook democratie ging brengen. Iedereen was naïef”

De snelle groei van AI lijkt de wereld in tweeën te splijten. Enerzijds zijn er spijtoptanten uit de industrie die waarschuwen voor de apocalyps, zoals laatst nog George ‘Godfather of AI’ Hinton die zich openlijk afvraagt of de mensheid niet beter af was zonder AI. Anderzijds zijn er techno-optimisten als de Franse president Macron en MIT-professor Fadel Abib die menen dat AI de wereld zal redden. Midden in dit verwarrende debat tussen uitersten is het boek Vierkante ogen van Felienne Hermans een verademing. Zij laat namelijk zien dat het niet alles of niets is. Er is nog een derde optie: een wereld waarin technologie daadwerkelijk vooruitgang brengt.

Vooruitgang voor iedereen, welteverstaan, en niet alleen voor een handjevol ceo’s in Silicon Valley. Wat daarvoor nodig is, is allereerst een verandering van de informatica: de wereld van de programmeurs die schuilgaat achter al die apps die ons dagelijks leven in toenemende mate bepalen.

Techneuten zien de wereld als een wiskundig probleem dat ze als een god naar hun hand kunnen zetten

Hermans kent die wereld van binnenuit: ze studeerde computerwetenschappen aan de TU Eindhoven, promoveerde aan de TU Delft, ontwikkelde een opensource programmeertaal voor kinderen (Hedy) die in tientallen talen te gebruiken is, en is hoogleraar Computer Science Education aan de VU in Amsterdam. Met stijgende verbazing heeft ze gezien hoe programmeurs worden getraind om met een zeer beperkte blik naar de wereld te kijken, namelijk door de lens van meetbaarheid en efficiëntie. Buiten beeld blijven zaken als empathie en de psychologie van de mens om wie het uiteindelijk zou moeten gaan.

‘Vierkante ogen’ noemt Hermans deze blik, die ervoor zorgt dat techneuten de wereld, inclusief de rommelige, tegenstrijdige mens, zien als een wiskundig probleem dat ze als een god naar hun hand kunnen zetten met elegante codes. In haar boek onderzoekt ze hoe die blik tot stand komt en hoe die tot uiting komt in onze wereld. 

Waarom heb je het boek willen schrijven?

“Een van mijn drijfveren is de haat die ik inmiddels koester voor mijn eigen vakgebied. Ik begon heel optimistisch en dacht dat ik de wereld beter kon maken met informatica. Nu zie ik dat dat onwaarschijnlijk naïef was. Daarin was ik niet de enige. We geloofden allemaal dat Facebook democratie ging brengen. Iedereen was naïef, en dat was ook niet zo gek. In 2016 nog droeg de medeoprichter van Twitter, Jack Dorsey, een T-shirt met daarop de tekst: #StayWoke. Dit zijn mijn people, dacht ik, wij gaan de wereld gelijker maken en we gaan dat doen door software inclusiever te maken. Dat was mijn plan. En langzaam kwam ik erachter dat dat echt niet kan.”

Zoals je in je boek schrijft, speelde het feit dat je een vrouw bent daarin een rol.

“Ja, de genderongelijkheid binnen mijn vakgebied is deel van het probleem. Als je er zo uitziet als ik en als je de interesses hebt die ik heb, dan word je nooit serieus genomen in de computerwetenschappen. Het maakt niet uit wat je doet. Ik heb een prijs gewonnen voor Beste Informaticaonderzoeker van Nederland, en dan durven nog mensen te vragen: ben je echt wel technisch genoeg?

"Mijn vakgebied heeft volstrekt geen interesse in enige vorm van introspectie"

“Eerst dacht ik nog: ik kan die wereld van binnenuit wel veranderen. Maar mijn vakgebied heeft volstrekt geen interesse in enige vorm van introspectie. Intussen helpen ze wel de democratie en de planeet om zeep. Het is ook een boos boek, een teleurgesteld boek: what the fuck is dit met jullie? Het is ook niet gericht op mijn beroepsgroep, al hebben veel programmeurs me al laten weten dat ze het herkennen. Mijn boek is juist voor ‘gewone’ mensen, zoals we dat binnen mijn vakgebied noemen, zodat ‘jullie gewone mensen’ zien wat voor ellende er in dit vakgebied gevestigd is. Daar moeten we ons allemaal boos over maken en iets aan doen.”

Wat is er gebeurd in die tien jaar sinds Dorsey nog een #StayWoke-shirt droeg?

“Een gedeelte van die wereld was altijd al zo. Peter Thiel zei in 2009 al dat het een foutje was om vrouwen het stemrecht te geven. Aan de andere kant zijn er mensen die gewoon opportunistisch zijn: Mark Zuckerberg bijvoorbeeld, ik denk niet dat hij echt de dingen gelooft die hij zegt. Zit hij bij Joe Rogan te zeggen dat het grootste probleem van het bedrijfsleven is dat het te vrouwelijk geworden is en dat er meer masculiene waarden in moeten. Die man gelooft daar helemaal zak van, maar die denkt gewoon: dit is wat ik moet zeggen om investeerders te krijgen. Maar een gedeelte denkt het echt. Marc Andreessen, Peter Thiel, Elon Musk – zij willen gewoon de democratie kapotmaken. Ze willen zelf koning worden van hun eigen koninkrijk, en dat wilden ze altijd al. En dat zeiden ze ook, maar we luisterden niet. We kozen ervoor om weg te kijken en te kijken naar de stukjes die we wel goed vonden.”

We hebben dat misschien ook niet zo serieus genomen omdat een Thiel of Musk toen nog niet zo machtig waren. Dat zijn ze nu wel: hun politieke, institutionele en economische macht is substantieel toegenomen. Waar gaat dat heen, denk jij, als we nu niets doen?

“Dat gaat niet de goede kant op. Allereerst voor de planeet: als we zo doorgaan met die investeringen in datacenters, dan hoeven we ons straks überhaupt niet meer druk te maken om de democratie – dan is alles voorbij. Maar ook op het gebied van democratie zijn de ontwikkelingen zorgelijk. Kijk naar de manipulatie die Facebook heeft geprobeerd in Brazilië: dat is gelukkig niet gelukt, maar daar hebben ze weer geprobeerd om de linkse overheid te stoppen en Bolsonaro in het zadel te helpen. En we doen nog steeds niks. We weten dankzij het boek Careless People dat adverteerders bij Instagram de psychologische kwetsbaarheid van miljoenen onzekere meisjes gewoon kunnen kopen, en toch zitten er nog steeds mensen op Instagram. Waarom? Je kunt er morgen mee stoppen, het kost niks, ga er gewoon af.”

Is het aan de individuele mens om dit tij te keren?

“Het moet op alle manieren gekeerd worden. Ook door overheden, natuurlijk. Het is alleen de vraag wat we daarvan kunnen verwachten. We hebben nu een zogenaamd linkse regering van Rob Jetten, en wat zeggen ze de hele tijd: we hebben nu AI en we gaan ambtenaren ontslaan. Dan denk ik: hoor je jezelf? Ik denk helaas dat het wel aan het individu is. Want voor deze overheid en de machten in BV Nederland is de bottom line: zolang het lijkt dat Facebook en AI goed zijn, dan buigen we voor het grootkapitaal. We zijn nu eenmaal een handelsnatie, veel moraliteit kunnen we daar niet van verwachten. Verzet is nodig: we moeten de overheid aanzetten tot goed gedrag.”

Veel mensen komen niet in verzet omdat ze geloven dat AI een goed iets is. Dat komt ook, schrijft jij, doordat techneuten alles bewust complexer maken dan nodig. Complex is cool, in de wereld van de programmeurs. En dus moeten we ze maar op hun blauwe ogen geloven als ze zeggen dat AI de wereld zal redden. Anderen zeggen dan weer dat de wereld vergaat. Hoe moet de gewone mens zich daartoe verhouden?

“Ik denk in elk geval dat je bij alle claims over AI die de wereldproblemen gaat oplossen, moet denken aan de vierkante ogen van programmeurs. Die problemen waar het over gaat, zijn mensenproblemen. We weten al hoe we ziektes moeten bestrijden. Morgen kun je een HPV-vaccin halen en dan krijg je geen baarmoederhalskanker. Daar heb je geen AI voor nodig. Maar weet je hoeveel jongeren in Nederland die prik nemen? De helft. Dus dat is helemaal niet een technisch probleem: dat is een mensenprobleem. 

"Vraag Claude hoe je kanker kunt voorkomen, en hij zegt: laat wijn en bier staan. Maar dat willen we niet"

“We willen vaak niet doen wat nodig is voor die betere wereld. Vraag Claude hoe je kanker kunt voorkomen, en hij zegt: laat wijn en bier staan. Maar dat willen we niet, want wat moeten we dan met al die wijnboeren, en trouwens, we houden wel van een biertje. Idem met het klimaat: we kunnen de klimaatverandering nu stoppen als we olie in de grond laten en geen vlees meer eten, vliegtuigen afschaffen, simpel, supermakkelijk, kunnen we nu doen. We weten al hoe we de wereld beter kunnen maken. Maar dat willen we niet. Want we houden van bier, we houden van vlees, we houden van een weekje Thailand. En we houden van winst maken. Dus de notie dat AI die problemen kan oplossen, is typisch voor programmeurs die de mens buiten beschouwing laat en de wereld giet in algoritmes. Het probleem is niet een medicijn tegen kanker, het probleem is een samenleving die geen vertrouwen meer heeft in de overheid door precies die algoritmes.”

Zie jij een vakgebied zonder die vierkante ogen voor je? Of moeten we helemaal af van tech?

“Ik denk wel dat betere informatica mogelijk is. Ik geloof daar ook echt in. Maar mijn vakgenoten moeten wel heel goed in de spiegel kijken. De curricula moeten op de schop, en net zoals dokters en advocaten moeten programmeurs zich verhouden tot de macht die je als beroepsgroep hebt over de samenleving. Zoals een dokter een eed moet afleggen, moeten programmeurs om te beginnen verantwoording afleggen voor de macht die ze hebben op individueel en collectief niveau. En als dat niet goedschiks gaat vanuit de vakgroep, dan moet het kwaadschiks vanuit de samenleving.

"De samenleving moet stoppen zich laten wijsmaken door die tech bro’s dat ze niet mee mag besluiten"

“Die samenleving, de gewone mensen, moeten stoppen zich laten wijsmaken door die tech bro’s dat ze niet mee mogen besluiten. Dat een Eric Schmidt, de ex-baas van Google, zei: ‘AI komt eraan en governments en normal people aren’t ready, dus die moeten een stap opzijzetten’ – dat moeten we niet meer accepteren. Je hoeft geen technische kennis te hebben om te mogen meebepalen. Je hoeft ook niet te weten hoe een benzinemotor werkt om te weten dat benzine schadelijk is voor het milieu en te besluiten dat je dat niet wil. Je hoeft zo ook helemaal geen kennis te hebben om deel te nemen aan het AI-debat: je snapt genoeg om er iets van te vinden.”

Ik denk dat veel mensen denken: AI is al een rijdende trein, als ik er niet op spring, dan blijf ik achter. Dat is ook de hele retoriek rondom AI: wie geen AI gebruikt, “blijft achter” – wat impliceert: je moet mee met de vooruitgang, anders red je het niet in deze wereld. Waar is dat debat dan waar je aan mee kunt doen?

“Dat is lastig inderdaad, want dat is er niet. AI is gewoon ingevoerd. En de infrastructuren voor debat vanuit de samenleving zijn ook grotendeels weg. We hebben alleen nog de vakbonden, maar die zijn over een paar jaar ook verleden tijd. We hebben bovendien geen vrije tijd meer en dus weinig tijd om in het café te gaan zitten en de revolutie te plotten. Alle buurthuizen zijn wegbezuinigd, dus de ‘third place’ waar Karl Marx over schreef – de plek buitenshuis waar mensen samenkwamen om te praten over de wereld – is social media geworden. Nou, daar hoeven we geen revolutie te verwachten.”

Is dat ook de reden waarom je in het bestuur van The Firewall bent gegaan, om die revolutie op gang te helpen?

“Ja. Veel mensen vragen me: hebben we niet meer regelgeving nodig voor AI. Maar die regelgeving hebben we allang. Het probleem is dat de tech bro’s, they don’t care. Misschien hebben we op termijn meer regelgeving nodig, maar laten we eerst eens beginnen met handhaving van de regels die we hebben. Mensen gaan helaas niet vrijwillig van Facebook, komen niet vanzelf in verzet, overheden interveniëren niet, dus moeten we Big Tech om de oren gaan slaan met rechtszaken, in combinatie met onderzoeksjournalistiek.”

En wanneer hebben wij succes?

“Als er geen grote techbedrijven meer zijn. Zo groot als ze nu zijn, dat moet gewoon niet mogen bestaan. Mensen hebben het heel vaak over digitale soevereiniteit, dat we onafhankelijk moeten zijn als land en als Europa. Maar ik wil het hebben over digitale autonomie, dat ik als burger zelf mag kiezen welke software ik op mijn computer heb, en mag ik alsjeblieft geen smartphone hebben? Mag ik alsjeblieft anoniem over straat, zonder dat ik word gefilmd door de Amazon Ring van mijn buurman? En ook op mijn werk: ik wil helemaal niet worden gedwongen om Microsoft-technologie te gebruiken, en dat hoeft ook helemaal niet. Er is nog een vrij stukje internet. De notie dat we tonnen per dag als Nederland moeten overmaken naar een techbedrijf in Amerika alleen om onze computers te laten draaien, dat hoeft helemaal niet. Dat is gewoon technisch onwaar, en die onwaarheid kan alleen bestaan omdat mensen niet zeggen: wat is dat nu voor onzin, waarom zou ik betalen voor iets als het ook gratis kan? Dat zou pas goed zijn voor de BV Nederland.”