Gluurbrillen horen niet thuis in een democratie. Dit is waarom een verbod noodzakelijk is

Stel je voor dat je continu gefilmd wordt – op je werk, op straat, in de supermarkt, op het strand, in de wachtkamer, als je thuis staat te koken of in bed ligt. En stel je daarbij ook nog eens voor dat alles wat je doet en zegt wordt opgeslagen in een cloud van Meta, zonder dat jij weet of kunt controleren wat ermee gebeurt. Als het aan Meta ligt, is dit onze nabije toekomst.

Met de AI-brillen die het techbedrijf samen met EssilorLuxottica op de markt bracht, kan jan en alleman die zo'n bril koopt heel onopvallend alle gedragingen vastleggen van mensen die ze tegenkomen in de publieke ruimte, maar ook met wie ze een huis of bed delen. Leuk, zegt Meta, dan kun je de eerste stapjes van je kind filmen zonder dat je je smartphone tevoorschijn hoeft te halen. Hiermee speelt het niet alleen handig in op behoeften waarvan je niet wist dat je ze had, het verhult ook de werkelijke motivatie achter de lancering van de zogeheten ‘gluurbrillen’.

Want natuurlijk gaat het Meta niet om het mooier maken van de wereld, het gaat ze maar om een ding: data, en daaraan verbonden geld. Via allerhande apps en tools weten de techbedrijven al veel van ons: wie we zoal ontmoeten, waar onze gesprekken over gaan, welke routes we nemen en welke spullen we kopen. Die data zijn commercieel aantrekkelijke handelswaar voor analisten, datahandelaren en adverteerders. Daarnaast vormen ze onmisbare brandstof voor de AI-modellen, die een oneindige hoeveelheid data nodig hebben om getraind te worden.

De gluurbrillen geven een heel nieuwe dimensie aan deze datahandel: via de camera's en ingebouwde microfoons die zijn gekoppeld aan AI kunnen ze ongemerkt allerlei informatie over jou vastleggen, zoals welke krant je leest of welke schoenen je draagt, hoe je tegen de buurvrouw praat en waar je sport, maar ook wie je bent, waar je voor of tegen bent, zelfs met wie en hoe je seks hebt. De tijd dat je anoniem over straat kunt, je mening vrijuit kunt geven, zorgeloos kunt flirten en de barricaden op kunt voor waar jij in gelooft, die tijd is voorbij als we als samenleving toestaan dat de gluurbrillen onderdeel van ons dagelijkse leven worden.

Ze zijn daarom niet zomaar een nieuwe gadget waar we 'gewoon even aan moeten wennen', zoals Meta je graag doet geloven. Ze vormen een direct gevaar voor onze privacy en democratie en moeten per direct van de markt worden gehaald. Daarom spannen we samen met Offlimits en De Consumentenbond een kort geding aan, nadat Meta niet heeft voldaan aan onze sommatie. Ook eisen we dat de bijbehorende AI-technologie ineffectief wordt gemaakt voor brillen die al verkocht zijn. Waarom we dat gaan doen, op welke gronden en wat je van ons kunt verwachten, lees je in dit artikel.

De tijd dat je anoniem over straat kunt, zorgeloos kunt flirten en de barricaden op kunt voor waar jij in gelooft, die tijd is voorbij als we de gluurbrillen toestaan

Gefilmd worden zonder dat je het doorhebt

Juridische grond 1: Inbreuk op onze privacy

Terwijl de 21-jarige Dilara uit Londen in haar lunchpauze door een winkelcentrum wandelt, spreekt een man haar aan. Hij vraagt of ze misschien liefdesverdriet heeft. Als ze in een lift stapt, gaat hij met haar mee en vraagt haar telefoonnummer. Die geeft ze. Wat ze niet doorheeft, is dat de man haar al die tijd stiekem filmt met zijn AI-bril. Een paar dagen later begint ze vervelende telefoontjes en berichten te ontvangen. De video blijkt door de man, een influencer die zijn geld verdient met datingadvies, op TikTok te zijn geplaatst en bereikt al snel 1,3 miljoen views. Dilara's telefoonnummer is duidelijk in beeld te zien.

Begin dit jaar berichtte BBC News over dit soort voorvallen van online seksueel geweld tegen vrouwen en meisjes, begluurd door mannen met een Metabril. Afgelopen zomer bleek na onderzoek van De Telegraaf dat mannen en jongens, ongezien en ongehinderd in online Telegramgroepen met titels als 'Hard genieten', geheim opgenomen beelden van meisjes en vrouwen delen en van commentaar voorzien. Slachtoffers worden niet alleen in besloten groepen besproken, maar ook op social media geobjectiveerd, geseksualiseerd en in denigrerende termen becommentarieerd en vervolgens online lastiggevallen. Nederlandse socialmedia-accounts delen gluurbrilbeelden openlijk, zonder medeweten of toestemming van de in beeld gebrachte personen. Ook Offlimits heeft inmiddels vergelijkbare ervaringen van Nederlandse vrouwen en meisjes ontvangen. Op TikTok en Instagram zijn video's te vinden van herkenbare sekswerkers en hun klanten op de Amsterdamse Wallen.

Naar aanleiding van deze ophef is de Meta-bril bij opticien Hans Anders niet meer te verkrijgen, weigeren poppodia in Groningen en Utrecht de toegang voor dragers ervan, en waarschuwen toezichthouders wereldwijd. In Noorwegen is een tijdelijk verbod ingesteld op het dragen ervan op openbare plekken zoals parken, musea, stranden en winkelcentra.

Nu lijken het nog voornamelijk mannen die meisjes en vrouwen filmen, maar er is weinig fantasie voor nodig om je voor te stellen hoe alomtegenwoordige gluurbrillen meer slachtoffers zullen maken: een puber die iets ondoordachts doet, een dronken toerist in de kroeg of een zoenend stel op straat – ze kunnen allemaal zomaar in het voorbijgaan worden vastgelegd met de camerabril, zonder dat ze het doorhebben.

Nog los van de morele bezwaren, is dit gewoon strafbaar. Iemand die een ander heimelijk filmt maakt inbreuk op het grondrecht op privacy. In enkele gevallen is heimelijk filmen en het bezitten of verwerken van gemaakte beelden niet strafbaar. Het is toegestaan wanneer sprake is van een zwaarwegend belang, zoals een journalistiek belang. In alle andere gevallen is het strafbaar om een ander stiekem te fotograferen en te filmen met een verborgen camera. 

Wanneer iemand op je afstapt met een smartphone in de hand op ooghoogte, kun je er redelijkerwijs van uitgaan dat diegene jou filmt. Dat is bij de Meta-bril niet zonder meer het geval

Regels en wetten rondom filmen op straat

Maar er wordt toch ook al massaal gefilmd, door beveiligingscamera's, door flitscamera's, door smartphones, denk je wellicht. Goede vraag, maar bij de gluurbrillen speelt iets belangrijkers mee. Allereerst is het belangrijk onderscheid te maken tussen zogenoemde overheidssurveillance en private surveillance. Beveiligingscamera's in de openbare ruimte hebben een andere functie en andere gevolgen dan filmpjes die mensen op hun smartphones maken. Het fundamentele verschil zit in de motivatie: overheidsorganen filmen voor de publieke veiligheid, terwijl mensen voor eigen doeleinden filmen.

Dat laatste mag in principe, ook zonder toestemming te vragen. Je mag de beelden alleen niet zomaar publiceren, dan maak je inbreuk op het portretrecht. En je mag niet heimelijk filmen. Wanneer iemand op je afstapt met een smartphone in de hand op ooghoogte, kun je er redelijkerwijs van uitgaan dat diegene jou filmt; je signaleert de opname. Het is daarmee ook duidelijk toerekenbaar door wie je gefilmd wordt en waar die opname plaatsvindt. Dat is bij de Meta-bril niet zonder meer het geval: mensen die ermee gefilmd worden weten vaak niet dat ze worden vastgelegd, niet waarmee en daardoor ook niet door wie en waar.

De technologie bij de Meta-bril is bijna onzichtbaar geïntegreerd in het montuur, dat an sich een alledaags gebruiksvoorwerp is. Meta adverteert zelfs met het gegeven dat de brillen er onopvallend uitzien, terwijl ze verborgen technologie bevatten:

"Slimme brillen zien eruit als normale brillen, maar zijn op een discrete manier voorzien van technologie. Op het eerste gezicht lijken deze brillen op normale zonnebrillen of brillen op sterkte, maar ze bevatten kleine speakers, microfoons, een lichtgewicht camera of zelfs een klein display in je gezichtsveld."

Alhoewel een wit lampje (LED-indicator) aan de voorkant van de Meta-bril aangeeft dat de camera filmt, is deze slecht zichtbaar bij daglicht. Het lampje is gemakkelijk af te dekken met een simpele sticker, die je voor een paar cent koopt bij Bol.com of Amazon. Het is zogezegd eenvoudig om iemand te filmen zonder dat diegene het doorheeft. Meta zegt hiertegen maatregelen te hebben genomen: wie de LED van de bril bedekt, kan geen opnames meer maken. Meta-topman Alex Himel benadrukte dit op 12 oktober tegen een groep uitgenodigde journalisten: "We laten letterlijk onze beste ingenieurs aan de manipulatie-algoritmen werken." Maar op basis van technisch-forensisch onderzoek door PSG Recherche, uitgevoerd in opdracht van The Firewall, is enkele dagen voor Himels uitspraak vastgesteld dat de onderzochte Ray-Ban Meta AI-bril video-opnamen kan maken, terwijl de LED-indicator is afgedekt.

Alle waarborgen die we in Nederland hebben om een totalitaire surveillancestaat tegen te gaan, blijken niet te gelden voor private bedrijven

Er zijn gevallen waarin een AI-bril daadwerkelijk nut heeft, zoals voor blinden en slechtzienden. Voor hen kan het natuurlijk handig zijn als ze een bril hebben die hun vertelt hoe hun omgeving eruitziet of wanneer ze een druk kruispunt naderen. Voor dergelijke toepassingen kan een camerabril wettelijk worden toegepast, maar dan moet wel duidelijk zichtbaar zijn dat de camera wordt gebruikt en gewaarborgd zijn dat gegevens niet zomaar overal belanden.

Als de Nederlandse overheid morgen zou besluiten om in elke winkelstraat camera's op te hangen die gezichten herkennen, kan dat niet zomaar. Daar moet een wet voor komen. Die wet moet door de Tweede Kamer. Er moet een doel zijn, een bewaartermijn, een toezichthouder en een rechter die de camera-inzet achteraf kan toetsen. Dat hele stelsel bestaat, omdat een staat die alles van iedereen weet, gevaarlijk is. Meta hoeft dit proces niet te doorlopen, ze hoeft alleen een bril te verkopen. Alle waarborgen die we in Nederland hebben om een totalitaire surveillancestaat tegen te gaan, blijken niet te gelden voor private bedrijven.

Het resultaat is een uitgebreid en onzichtbaar cameranetwerk in de openbare ruimte, die gebruikers van surveillancegadgets met elkaar creëren. Eentje waar zij vrijwillig voor kiezen, maar waar en passant ook nietsvermoedende burgers hun intiemste data mee prijsgeven, aan private techpartijen die er miljardenwinsten mee maken.

De bril die ons allemaal minder vrij maakt

Juridische grond 2: Het 'chilling effect'

Er zijn al docenten die niet meer alles durven zeggen in de klas en jongens die douchen in hun zwembroek na een voetbaltraining – uit angst om gefilmd en vervolgens online bespot te worden. In een recente documentaire van More Perfect Union vertellen (voormalig) medewerkers van Amazon en Meta hoe handelingen op hun laptop digitaal getrackt en gelogt worden, ten behoeve van training van AI-agenten. “We wisten niet hoe, maar wel dat iemand meekeek.”

Wie zich gevolgd en gezien weet, durft zich minder vrij te verplaatsen en te verenigen of uit te spreken – zeker tegen het standpunt van de meerderheid, zo blijkt uit wetenschappelijk onderzoek. Dit wordt ook wel het chilling effect genoemd. Gluurbrillen zoals die van Meta creëren dit effect en ondermijnen daarmee onze democratie. Hun aanwezigheid in ons straatbeeld en dagelijkse leven heeft een schadelijke impact op het uitoefenen van grondrechten zoals die in het Europese Verdrag voor de Rechten van de Mens zijn opgenomen; met name artikel 10. vrijheid van meningsuiting en 11. het demonstratierecht (vrijheid van vereniging en vergadering).

Dingen die je vandaag zegt of doet, maken je in de toekomst mogelijk kwetsbaar, chanteerbaar of zelfs strafbaar wanneer een andere politieke wind gaat waaien. Heel menselijke gedragingen kunnen verdacht worden of tegen je gebruikt, wanneer heimelijk gefilmde beelden uit hun context worden gehaald en op internet geplaatst. Dat is niet langer onvoorstelbaar of alleen mogelijk in een aflevering van The Handmaid's Tale of Black Mirror als we de Meta-bril toestaan. Wanneer surveillance-apparatuur onopvallend in alledaagse voorwerpen wordt verwerkt, creëert dat een situatie waarin niemand meer kan vaststellen of hij wordt opgenomen, waar en door wie. Daardoor gaan we op onze tellen passen en voelen we ons niet meer vrij in onze samenleving. Dat gegeven alleen al is chilling.

Alhoewel Meta zegt personen onherkenbaar te maken, kregen AI-beoordelaars herkenbare beelden onder ogen waarop kinderen te zien zijn terwijl ze in bad gaan. Op andere beelden waren volwassenen te zien die naar de wc gingen of seks hadden

Wie kijken er allemaal mee?

Juridische grond 3: Verwerking van onze gegevens

Huisgenoten die uit de douche komen, een partner die zich omkleedt; wie in het vizier komt van de gluurbril, kent voor Meta geen geheimen. Alhoewel het techbedrijf claimt dat opgenomen beelden alleen voor brildragers beschikbaar zijn en niet in de cloud worden opgeslagen, ontdekten Keniaanse en Zweedse onderzoeksjournalisten dat er mensen meekijken met wat de camerabril vastlegt. Zij spraken met medewerkers van AI-beoordelingsbedrijf Sama. Die analyseren vanuit Kenia digitale content (tekst, beeld, geluid, code) om taalmodellen te helpen 'verbeteren'. Tijdens hun werk zagen de beoordelaars wat individuele gebruikers filmden met de Meta-bril. Alhoewel Meta zegt personen onherkenbaar te maken, kregen Sama-medewerkers niet-geanonimiseerde beelden onder ogen waarop kinderen in huiselijke situaties te zien zijn, zoals stoeiend met een ouder of terwijl ze in bad gaan. Op andere beelden waren volwassenen te zien die naar de wc gingen of seks hadden. Het was de beoordelaars overduidelijk dat de personen in beeld zich niet bewust waren van de opnames.

Meta maakt met de gluurbril dus niet alleen inbreuk op onze privacy, maar ook op onze gegevensbescherming door de camerabrilopnamen te verwerken in haar eigen systemen, zonder toestemming van de personen die in beeld zijn. Het Amerikaanse Big Tech-bedrijf legt nota bene zelf uit hoe dat werkt:

"Zelfs als je onze producten niet gebruikt of geen account hebt, kunnen we nog steeds informatie over je verwerken om AI bij Meta te ontwikkelen en te verbeteren. Dit kan bijvoorbeeld gebeuren als je ergens voorkomt in een afbeelding die wordt gedeeld in onze producten door iemand die er wel gebruik van maakt."

Wie de bril wil gebruiken moet akkoord gaan met de voorwaarden van Meta's AI Companion-app. Deze app dient geïnstalleerd te worden op de smartphone om de AI-functies voor spraakherkenning, vertalingen en beeldanalyse te laten werken. Zonder akkoord van de gebruiker zijn de belangrijkste brilfuncties vrijwel onbruikbaar.

Uit onafhankelijk onderzoek in opdracht van The Firewall (en uit onderzoek van non-profitorganisatie Exodus Privacy) blijkt dat de Meta AI Companion app toegang vraagt tot 70 functies en datapunten van je telefoon, zoals locatiegegevens, diverse accounts op je smartphone, je contactenlijst, sms'jes en belhistorie. Er worden dus ook gegevens van andere personen verwerkt die ergens binnen die 70 functies en datapunten voorkomen, zonder dat die daarvoor tekenden. Ook blijkt dat de AI-functies van de bril (en de gegenereerde data) niet op je telefoon worden verwerkt, maar in de cloud, op servers van Meta.

Meta handelt hiermee in strijd met een groot aantal bepalingen van de wet AVG. Op álle onderdelen gaat het mis bij de verwerking van persoonsgegevens die Meta via de gluurbril binnenhaalt, voor zover er geen toestemming daarvoor is van de mensen die in beeld zijn, te weten:

1. De gegevensverwerking door Meta is ten aanzien van de betrokkene niet rechtmatig, behoorlijk en transparant;
2. De gegevensverwerking door Meta voldoet niet aan het beginsel van doelbinding, de persoonsgegevens worden niet voor welbepaalde, uitdrukkelijk omschreven en gerechtvaardigde doeleinden verzameld;
3. Meta handelt in strijd met de beginselen van minimale gegevensverwerking en opslagbeperking;
4. Meta heeft geen passende beveiligingsmaatregelen genomen;
5. Meta kan niet aantonen dat zij al deze beginselen van de AVG naleeft.

Tsunami aan surveillance gadgets

"#framereveal" zagen we in onze mailbox. Het bericht kwam afgelopen week van Google en Samsung, die samen met brillenmaker Warby Parker nieuwe designs voor hun camerabril presenteerden. Vrijwel alle Big Tech-bedrijven en nieuwe spelers staan klaar om met hun versies van de gluurbril de Nederlandse markt te veroveren. The Firewall turfde minstens veertien aanbieders, waaronder Apple en Snap en Chinese prijsvechters, die al camerabrillen aanbieden voor onder de 100 dollar.

Als we de gluurbril nu niet aanpakken, kunnen we ons opmaken voor een lawine aan surveillancetools. Als het aan de techbedrijven ligt, hangen we onze lichamen straks verder vol met onzichtbare camera's in de vorm van ringen, halskettingen en armbanden. Analisten verwachten dat OpenAI, de maker van ChatGPT, in 2027 met een schermloze AI-speaker voor consumenten komt, ontworpen door Jony Ive, jarenlang Hoofd Design bij Apple. Er wordt voor dit gadget veel gespeculeerd over de uiteindelijke verschijningsvorm: het zou om de nek worden gedragen, in de oren gedragen of als een soort pen te gebruiken zijn.

Wat The Firewall betreft is duidelijk waarom Big Tech dit soort 'innovaties' uitbrengt en waar ze toe leiden: een surveillancestaat. De bedrijfsmodellen zijn ingericht op wat schrijfster Shoshana Zuboff in 2019 al "surveillance capitalism" noemde in haar boek met de gelijknamige titel. Het resultaat is erger dan staatssurveillance, dat een doel, een bewaartermijn en een toezichthouder vereist, en een rechter die de surveillance-basis achteraf kan toetsen. Surveillance capitalism creëert een mobiel, draagbaar en onzichtbaar cameranetwerk in de openbare ruimte, waar private techpartijen miljardenwinsten mee maken.

Surveillance capitalism creëert een mobiel, draagbaar en onzichtbaar cameranetwerk in de openbare ruimte. We worden in dat netwerk overal bekeken en gevolgd

We worden in dat netwerk overal bekeken en gevolgd. Online laten we datasporen achter en op straat, in gebouwen en winkels worden al onze gedragingen vastgelegd op camera. Daar kleven meerdere gevaren aan, zoals dat data die nu nog van jou zijn straks als wapen kunnen worden ingezet. Dat kunnen data zijn die nu nog onschuldig en juist behulpzaam lijken om te delen, zoals van je menstruatiecyclus die je kunt bijhouden in een ovulatie-app. Nadat een aantal staten in de VS abortus opnieuw verboden, is er een nieuwe markt ontstaan voor deze menstruatiedata. Wie een persoon aangeeft die abortus pleegde in een staat waar dat illegaal is, kan een geldprijs in de wacht slepen. De angst bestaat dat persoonlijke data over menstruatie kan worden ingezet als bewijsmateriaal om illegale abortus aan te tonen. Het gebruik van dergelijke cyclustrackingapps levert vrouwen in Amerika daarom inmiddels grote zorgen op, blijkt uit onderzoek.

Wat Zuboff uitgebreid beschrijft, is hoe Big Tech-bedrijven hun diensten en producten, zoals Meta nu haar 'slimme' brillen, keer op keer presenteren als iets leuks, een logische nieuwe stap in de evolutie van technologie, die ons leven nog weer gemakkelijker zullen maken. Maar de bril is daar helemaal niet voor ontworpen. Het is een logische, nieuwe stap in het verdienmodel, dat is ontworpen om de almaar grotere honger naar data te stillen. Alledaagse gesprekken via onze chatbots, beelden en bewegingen via onze camera's voeden de AI-modellen. Analyse van onze meest persoonlijke data, met behulp van AI, is nodig om ons gedrag nog beter te voorspellen, om vervolgens te verkopen aan datahandelaren en te koppelen aan advertentiemogelijkheden. Wat we delen met onze chatbots bepalen we nog zelf. De camerabril deelt echter iets extra's: beelden en persoonlijke informatie van anderen, zonder dat zij ervoor kiezen of zich daar bewust van zijn.

Waarom er nu een verbod moet komen?

De opkomst van de Meta-bril is een nieuwe stap in de normalisering van surveillance door private technologiebedrijven. Dat moet stoppen. Vooralsnog leidden voornoemde publicaties, onthullingen en klachten echter niet tot een verbod op de bril of andere beperkende acties van wet- en regelgevers. De Autoriteit Persoonsgegevens en verschillende maatschappelijke organisaties in Nederland zoals Bits of Freedom, de Consumentenbond, Offlimits en The Firewall tekenden de afgelopen weken bezwaar aan tegen de aanwezigheid en het gebruik van gluurbrillen zoals die van Meta. Apparaten die evident een schadelijke impact hebben op onze democratie en de grondrechten van burgers schenden, hebben geen plaats in de openbare samenleving.

Ons kabinet vond een verbod onlangs nog te ver gaan. De brillen worden nog altijd verkocht en de AI-functies blijven operationeel. Met een totaalverbod als inzet, zijn Offlimits, The Firewall en Consumentenbond daarom gezamenlijk een kortgedingprocedure gestart. Om die procedure in gang te zetten, stuurden we op 29 september een sommatiebrief waarin we Meta sommeerden om de functionaliteiten van filmen met de bril uit te schakelen.

Bij een sommatiebrief krijgt de gedaagde partij twee weken de tijd om te reageren. In de tussentijd dienen partijen in overleg te gaan, wat meestal neerkomt op een gesprek tussen advocaten van beide partijen. Meta is echter niet binnen deze wettelijke termijn ingegaan op het verzoek van Offlimits en The Firewall om te overleggen. 

Inmiddels is de tijd verstreken en heeft Meta aangegeven de filmfunctionaliteiten niet te zullen uitschakelen. Sterker nog: in een door Meta zelf belegde meeting met Nederlandse journalisten op maandag 12 oktober, waarvoor The Firewall niet was uitgenodigd, vertelde Meta-topman Alex Himel dat het bedrijf niet van plan is de brillen van de markt te halen.

Dat noopte ons een dagvaarding naar de rechtbank te sturen. Die bepaalde vervolgens in overleg met alle partijen (Meta, EssilorLuxottica, Offlimits,The Firewall en de Consumentenbond) de zittingsdatum: 26 november a.s. bij de rechtbank Amsterdam. Na de zitting zal er binnen twee weken een vonnis volgen.

Naar verwachting zal Meta bij een voor de burger en democratie positieve uitkomst direct in hoger beroep zal gaan. Dan beginnen we weer van voren af aan. Want wij zullen niet opgeven. Zonder verbod op de gluurbril zullen surveillance-apparaten van Big Tech ons openbare leven beperken. We zullen onvrijer, onveiliger, wantrouwender en minder uitgesproken door het leven gaan. We zullen minder snel opkomen voor onze rechten en de vrijheid van meningsuiting. Het zal kortom het einde betekenen van de vrije democratische samenleving zoals we die nu kennen. Dat laten wij niet gebeuren!

De dagvaarding is hier te vinden, evenals een tijdlijn en andere belangrijke informatie omtrent de zaak