Big Tech niet langer immuun: de strijd van de EU tegen schadelijke content op platforms

“Met jullie algoritmen en de enorme stroom aan schadelijke informatie die jullie de wereld in pompen; het is alsof je er een hogedrukspuit op zet. Ik verzeker je: de schade ervan is verdomme onvermijdelijk.” Dat roept het fictieve personage Charlie Garrigan naar Facebook-CEO Mark Zuckerberg in de film The Social Reckoning (2026).

Garrigan is gebaseerd op zakenman Roger McNamee, een van de eerste investeerders in Facebook en tevens uitvoerend producent bij de film. Met de groei van het techbedrijf werd hij steeds kritischer op het constant vooropstellen van groei en winst. “Jullie factchecken politieke advertenties niet?” vraagt het personage aan Zuckerberg. Waarop de tech-CEO antwoordt: “We leven in een democratie, ik geloof in vrijheid van meningsuiting.”

Garrigan reageert verontwaardigd: "Iedereen gelooft in vrijheid van meningsuiting, maar dat kan toch niet je enige antwoord zijn?" En later: “Je bent net een verkeersregelaar bij een school, maar je steekt je armen niet uit. Dus de auto's rijden de kinderen gewoon omver, want ‘het is een democratie’, toch?”

Deed Facebook wel genoeg om de verspreiding van extremistische inhoud een halt toe te roepen?

Het is 2021 en (toen nog) Facebook ligt onder vuur vanwege de verspreiding van desinformatie en de rol van het platform bij politieke radicalisering en geweld. De vraag is niet alleen of het bedrijf schadelijke berichten voldoende aanpakt, maar ook of zijn algoritmen die juist verder verspreiden. De scène vindt plaats op het Facebook-kantoor in San Francisco, waar Mark Zuckerberg zijn getuigenis aan het voorbereiden is die hij zal afleggen voor het Amerikaanse congres. Advocaten en PR-adviseurs van Facebook bestoken hem met vragen die de Senaat volgens hen zal stellen. In zijn antwoorden op de vragen over contentmoderatie en de invloed van Facebook op de Amerikaanse verkiezingen blijft Zuckerberg maar hameren op de vrijheid van meningsuiting en de functie van Facebook als een ‘publiek forum’.

De regisseur van The Social Reckoning, Aaron Sorkin, richtte de film op de onwil van Facebook om politieke advertenties, in aanloop naar de verkiezingen van 2020, te factchecken. En op de vraag die daarmee samenhangt: of Facebook wel genoeg deed om de verspreiding van extremistische inhoud en desinformatie een halt toe te roepen. Nadat Joe Biden eind 2020 de Amerikaanse verkiezingen won, begon 2021 met de bestorming van het Capitool door aanhangers van Donald Trump die meenden dat er verkiezingsfraude had plaatsgevonden. Onderzoek heeft later uitgewezen dat socialmediaplatforms rechtstreeks hebben bijgedragen aan de opstand. Uit intern Meta-onderzoek bleek dat met name Facebook een sterke invloed heeft gehad op de ontwikkeling van negatieve, boze politieke discussies online.

Winst boven veiligheid

The Social Reckoning vertelt het waargebeurde verhaal van klokkenluider Frances Haugen, die erachter kwam dat winst maken voor de leiding van Facebook belangrijker is dan de veiligheid van gebruikers. Haugen kwam in 2019 bij het grote techbedrijf werken nadat een vriendin online was geradicaliseerd. Ze wilde een rol spelen in het creëren van een “beter, minder giftig” Facebook.

Na de verkiezingen werd het team voor ‘maatschappelijke integriteit’ waar ze werkte opgeheven. Ze besloot interne documenten te lekken, die in 2021 als de Facebook Files verschenen in The Wall Street Journal. De documenten maakten duidelijk dat Facebook op de hoogte was van allerlei schadelijke maatschappelijke gevolgen van zijn platforms, maar toch bleef kiezen voor winst boven het aanpakken ervan.

Zo bleek dat het machtige bedrijf volledig op de hoogte was van de bijdrage van Instagram aan een negatiever zelfbeeld van tienermeisjes. Facebook wist ook dat schadelijke inhoud, zoals berichten die anorexia nervosa aanmoedigden en foto’s van zelfbeschadiging, via de algoritmen van de platforms bij jonge gebruikers terechtkwam.

Facebook droeg bij aan het in stand houden van desinformatie en politiek extremisme, en dat wist Zuckerberg

Verder bleek dat Facebook opruiende berichten voorrang gaf in wat gebruikers op platforms voorgeschoteld krijgen. In een interne notitie na de verkiezingen merkte een datawetenschapper op dat 10 procent van alle keren dat politieke inhoud op Facebook werd bekeken in de Verenigde Staten, betrekking had op berichten waarin werd beweerd dat de verkiezingen fraudeleus waren verlopen. Werknemers uitten in deze periode ook hun bezorgdheid over de verspreiding van de extreemrechtse QAnon-complottheorieQAnon is een ongegronde, van oorsprong Amerikaanse complottheorie die stelt dat de wereld in het geheim wordt bestuurd door een kwaadaardige elite van politici, beroemdheden en zakenlieden. Deze theorie vormt volgens veiligheidsdiensten en onderzoekers een belangrijke voedingsbodem voor anti-institutioneel extremisme en politiek gemotiveerd geweld. op de platforms. Daarmee droeg Facebook bij aan het in stand houden van desinformatie en politiek extremisme, en dat wist Zuckerberg.

De rapporten die Haugen lekte, concludeerden dat Facebook “tot in de kleinste details weet dat zijn platforms vol zitten met gebreken die schade veroorzaken, vaak op manieren die alleen het bedrijf volledig begrijpt”, zo meldde de WSJ destijds. Een van de bevindingen, zoals ook in de film wordt weergegeven, was dat Facebook zijn algoritme in 2018 zodanig had aangepast dat het platform “bozer” werd.

Strengere regelgeving: de DSA

Na de Facebook Files besloot het bedrijf, dat tevens Instagram, Threads, WhatsApp en Messenger bezit, zijn naam te veranderen naar Meta. Niet veel later kwam de Europese Unie (EU) met strengere regelgeving voor online platforms. Deze Digital Services Act (DSA) uit 2022 moet de grondrechten van gebruikers online waarborgen en hen beschermen tegen schadelijke en illegale content.

Uitgangspunt van de DSA is dat wat offline verboden ook online verboden moet zijn. Offline zijn zaken als racisme, haatzaaien, diefstal en aanzetten tot geweld verboden. Online is dat ook verboden, maar word je op elke digitale hoek van de straat beroofd van je data, krijg je haat en racisme voorgeschoteld en worden groepen opgeroepen tot geweld. De DSA moet zorgen voor een veiligere en transparantere online omgeving.

“De DSA biedt een duidelijk kader om platforms ter verantwoording te roepen voor de effecten van hun diensten”

“Het beschermen van de fysieke en mentale gezondheid van Europeanen moet een prioriteit zijn voor socialemediaplatforms,” stelt Henna Virkkunen, vicevoorzitter van de Europese Commissie en verantwoordelijk voor digitaal beleid, in een statement over onderzoek naar Meta. “De Digital Services Act biedt een duidelijk kader om platforms ter verantwoording te roepen voor het verslavende ontwerp en de effecten van hun diensten. Wij zetten ons volledig in voor de handhaving van onze wetgeving in Europa.”

Virkunnen benoemt socialmediaplatforms, maar de regels van de DSA richten zich op alle zogenoemde ‘tussenhandeldiensten’. Dat zijn online diensten die informatie van hun gebruikers doorgeven, opslaan of verspreiden, zoals internetproviders, cloud-diensten, sociale netwerken en online marktplaatsen. Zulke diensten bepalen in grote mate wat er online te vinden is, ook al maken ze de informatie meestal niet zelf. Daarom heeft de DSA strengere regels in het leven geroepen voor de manier waarop ze met die informatie omgaan.

‘Very Large Online Platforms’

Hoe groter een dienst en hoe actiever deze betrokken is bij de informatie van de gebruikers, hoe meer verplichtingen er gelden. Een internetprovider die alleen data doorgeeft, heeft slechts enkele verplichtingen, zoals het aanwijzen van een contactpunt. Een hostingdienst, die informatie namens gebruikers opslaat, moet daarnaast onder andere een meldsysteem hebben waarmee mensen illegale content kunnen aankaarten en uitleggen waarom content wordt verwijderd of de zichtbaarheid ervan wordt beperkt.

Voor online platforms die deze informatie ook openbaar verspreiden, zoals een webwinkel als Bol.com of een sociaal netwerk, gaan de regels nog verder. Zij moeten gebruikers bijvoorbeeld ook de kans geven bezwaar te maken tegen een beslissing en advertenties duidelijk als zodanig herkenbaar maken.

Het strengst is de DSA voor zogenoemde ‘Very Large Online Platforms’ (VLOP): de zeer groteEen platform krijgt de status VLOP wanneer de Europese Commissie het als zodanig aanwijst, wat gebeurt zodra het gemiddeld minimaal 45 miljoen actieve gebruikers per maand heeft. online platforms, zoals X, Instagram, TikTok of YouTube. Omdat zij zoveel mensen bereiken, kunnen hun beslissingen grote gevolgen hebben voor het publieke debat. Daarom moeten zij onder meer onderzoeken welke risico’s hun diensten opleveren, bijvoorbeeld voor desinformatie of voor de geestelijke gezondheid van jongeren, en moeten zij inzicht geven in hun aanbevelingsalgoritmen.

Notice and Action

Aanbieders van hostingdiensten, waaronder online platforms, zijn vanuit de DSA ook verplicht om op te treden tegen illegale inhoud zodra zij hiervan op de hoogte worden gebracht. Dit is verankerd in Artikel 16, het zogeheten Notice and Action-mechanisme. Op basis hiervan moeten zij een laagdrempelig meldsysteem bieden waarmee gebruikers en organisaties illegale content kunnen aankaarten, waarna de dienst de melding snel en zorgvuldig moet beoordelen en de inhoud zo nodig moet verwijderen of ontoegankelijk moet maken.

VLOP’s hebben bovendien een zorgplicht, die inhoudt dat ze jaarlijks moeten onderzoeken hoe hun algoritmes maatschappelijke risico's vergroten – zoals desinformatie of schade aan minderjarigen – en verplicht zijn dit actief tegen te gaan. Daarnaast moeten zij meer slagkracht vertonen bij het aanpakken van illegale content en transparant zijn over hoe hun aanbevelingsalgoritmes werken.

Toch blijft materiaal dat in strijd is met de wet online volop aanwezig. Denk aan content die terrorisme aanmoedigt of illegale producten verkoopt en beelden van kindermisbruik, maar ook discriminerend materiaal en haatzaaiende uitlatingen. Begin dit jaar begon de Europese Commissie bijvoorbeeld aan een onderzoek naar X, nadat de ingebouwde AI-chatbot Grok onder andere gebruikt werd om seksuele deepfakes van vrouwen en kinderen te maken en te verspreiden. Kort hierna startte de Nederlandse stichting Offlimits in samenwerking met Fonds Slachtofferhulp een rechtszaak om de zogenoemde ‘nudify’-tool te verbieden. Met succes: de rechter heeft de tool per direct verboden. En omdat Grok niet nagaat waar mensen wonen, mag het deze functionaliteit nergens meer ter wereld aanbieden.

De algoritmes van Meta zijn erop ingesteld om gebruikers zo lang mogelijk te laten kijken en scrollen

De Commissie deed ook onderzoek naar functies van Meta-platforms, zoals oneindig scrollen, automatisch afspelen van content en gepersonaliseerde aanbevelingssystemen. Deze functies zijn gevaarlijk voor het welzijn van (minderjarige) gebruikers omdat ze verslavend werken. Dit is ook precies de bedoeling: omdat Meta vooralZo’n 98% van de inkomsten van Meta komen uit advertenties. verdient aan advertenties, zijn de algoritmes erop ingesteld om gebruikers zo lang mogelijk te laten kijken en scrollen, en om met elke interactie meer gegevens te verzamelen waarmee advertenties beter te richten zijn.

Meta houdt echter te weinig rekening met de schadelijke gevolgen ervan, luidt het voorlopige oordeel van de Commissie, en dit is ook in strijd met de DSA. Het ontwerp van Meta’s platformen moet van de Europese Commissie dan ook worden aangepast, zodat de diensten minder verslavend worden. Denk aan een goed beheer van schermtijd en ouderlijke controle. Doen ze dat niet, riskeren ze hoge boetes.

Safe Harbour

Wie een groot online platform in de rechtszaal aansprakelijk wil houden voor illegale inhoud, botst al snel op het verweer dat de content afkomstig is van gebruikers, niet van het platform zelf. Dit is een beroep op het zogeheten ‘Safe Harbour’-principe (artikel 6 in de DSA): een vrijstelling van aansprakelijkheid die een ‘veilige haven’ biedt voor hostingproviders en platforms die slechts een neutraal, passief doorgeefluik zijn. Een dienst raakt die bescherming pas kwijt wanneer hij geen passieve of neutrale rol meer speelt, bijvoorbeeld door actieve controle uit te oefenen of zelf content te genereren, of wanneer hij concreet op de hoogte is van illegale content en deze niet direct verwijdert of ontoegankelijk maakt.

Deze regel is in 2000 in het leven geroepenHet Safe Harbour-principe in de DSA is overgenomen uit de e-commerce-richtlijn van de EU uit 2000. om de vrijheid van meningsuiting te waarborgen en een open internet te behouden. Zouden tussenpersonen direct aansprakelijk zijn voor alles wat hun gebruikers plaatsen, dan zouden zij uit voorzorg massaal berichten verwijderen zodra er maar enige twijfel bestaat en voor elke post een potentiële rechtszaak krijgen. Dat zou leiden tot overmatige blokkering van legale content. Ook zouden kleine forums, hostingbedrijven en start-ups de risico’s niet kunnen dragen, en zouden alleen de grote techbedrijven met legers aan juristen overblijven. De veilige haven moet voorkomen dat het internet verandert in een plek waar alleen nog zwaar gefilterde informatie van een handvol grote spelers te vinden is.

Gaandeweg is gebleken dat Big Tech-bedrijven het Safe Harbour-principe misbruiken

Het Safe Harbour-principe is in beginsel ook bedoeld voor de grote platformen, maar gaandeweg is gebleken dat ze het misbruiken. Terwijl hun verdienmodel is gestoeld op aanbevelingsalgoritmes en indeling van content, beweren de Big Tech-bedrijven, met Mark Zuckerberg voorop, dat ze slechts neutrale doorgeefluiken zijn en dus niet verantwoordelijk voor wat anderen op hun platforms plaatsen.

Ze krijgen hierin steun van de Amerikaanse president, die met name sinds zijn tweede termijn Big Tech in de armen heeft gesloten. Bij zijn inauguratie in januari 2025 kregen de grote techbazen een mooiere zitplaats van Trump dan kabinetsleden. Zo was Zuckerberg aanwezig, maar ook medeoprichter van Google Sergey Brin, Amazon-CEO Jeff Bezos en eigenaar van X Elon Musk. Die laatste sprak van tevoren al zijn steun uit en was met zijn donatie aan Trumps campagne van meer dan 290 miljoen dollar de grootste donateur van de verkiezingen. Ook Meta doneerde 1 miljoen dollar aan het inauguratiefonds van Trump.

Kort voor de inauguratie riep Zuckerberg in een videoboodschap en tijdens een optreden in de podcast van Joe Rogan de hulp in van president Trump. Volgens hem zou Brussel erop uit zijn internet te ‘censureren’ en moest de Amerikaanse regering Big Tech verdedigen tegen Europese wetten en boetes. Trump gaf gehoor aan de oproep: hij bestempelde de Europese regelgeving als oneerlijk en dreigde met importheffingen tegen landen die Amerikaanse techbedrijven ermee belasten. Tijdens de AI-top in Parijs haalde de Amerikaanse vicepresident JD Vance ook scherp uit naar Europese wetgeving zoals de DSA, de Digital Markets Act (DMA) en de AVG, die hij omschreef als belastende regels waar de VS niet mee akkoord gaat. Hij stelde dat buitensporige regulering en strikte regels rondom content-moderatie en AI-innovatie een opkomende industrie in de kiem kunnen smoren.

Ondanks de Amerikaanse druk blijft de Europese Unie echter vasthouden aan de DSA, en ziet ze zelfs strenger toe op aansprakelijkheid bij illegale content.

Coyote-zaak doet stof opwaaien

Dit begon bij een baanbrekende uitspraak afgelopen zomer, in een gevoegde zaak over onder andere de Franse verkeersapp Coyote (samen met het Tsjechische pornoplatform Webgroup). Het navigatiesysteem van Coyote informeert bestuurders over controles langs de weg. Het slaat ingediende verkeersmeldingen op en geeft deze door aan een breed netwerk, à la het Nederlandse Flitsmeister. Is Coyote zo alleen een neutrale host van informatie, niet aansprakelijk voor de inhoud ervan? Of oefent het ook controle uit op de wijze waarop het informatie verspreidt? Over dat vraagstuk boog de Franse rechter zich.

De zaak begon vanuit Coyote zelf, nadat Frankrijk had verboden om bepaalde verkeerscontroles door te geven. Het ging onder andere om meldingen van alcohol- en drugscontroles en antiterreurcontroles. Coyote vocht dit verbod aan bij de Conseil d’État, de hoogste bestuursrechter van Frankrijk, die oordeelt over besluiten van de overheid. Coyote vond namelijk dat het verbod op het doorgeven van deze verkeersmeldingen in strijd was met Europese regels, onder meer voor het vrije verkeer van diensten en het verbod op algemene monitoring. Om het verbod te handhaven, zou Coyote namelijk strenger moeten gaan controleren op de inhoud van verkeersmeldingen. Maar als neutrale hostingprovider hoefde het zich niet te bemoeien met wat gebruikers melden, beargumenteerde Coyote. Het techbedrijf deed dus een beroep op Safe Harbour.

Na de uitspraak in de zaak Coyote wordt een beroep op Safe Harbour voor Big Tech een stuk moeilijker

De Franse rechter besloot prejudiciële vragen te stellen aan het Europese Hof van JustitieAntwoord op zo’n prejudiciële vraag, van een lagere rechter aan het Europese Hof, geeft uitleg over een Europese rechtsregel. Het is vervolgens aan de nationale rechter om een uitspraak te doen, in overeenstemming met de beslissing van het Hof.. Het Hof keek naar wat Coyote met de verkeersmeldingen doet en oordeelde dat de app controle uitoefent op die meldingen, omdat het gebruikmaakt van een aanbevelingsalgoritme. Dat bepaalt onder welke voorwaarden, op welke manier en in welke volgorde van prioriteit meldingen verspreid worden, en daarmee ook of ze überhaupt worden doorgegeven. Dit gebeurt ten behoeve van de dienst zelf.

Het systeem van Coyote draait namelijk op betrouwbare, actuele meldingen. Het algoritme voegt die meldingen samen en stuurt ze door naar de gebruikers voor wie ze relevant zijn. Dat dient de kwaliteit van Coyotes eigen product en verdienmodel, niet het belang van degene die de melding indiende. Het Hof oordeelde dan ook dat Coyote geen neutrale host is, door het gebruik van dit aanbevelingsalgoritme. Coyote komt daardoor niet in aanmerking voor de vrijstelling van Safe Harbour. De algoritmische controle valt buiten de grenzen van een simpel doorgeefluik.

Deze uitspraak kan verstrekkende gevolgen hebben voor socialmediaplatforms. Nu lopen ze het risico juridisch aansprakelijk te worden gehouden voor illegale content, omdat hun aanbevelingsalgoritmen als controle over de inhoud worden gezien. Een beroep op Safe Harbour wordt dan een stuk moeilijker.

Voorwaarden voor de vrijstelling

De bescherming van Safe Harbour geldt alleen zolang een platform geen ‘actieve rol’ speelt. Een hostingbedrijf kan zich bij illegale inhoud op Safe Harbour beroepen als het daar geen kennis van of heeft of controle over uitoefent, of als het de inhoud direct verwijdert zodra het die kennis wél heeft (‘Notice and Action’).

Overheden mogen platforms niet verplichten om algeheel toezicht te houden op wat gebruikers plaatsen of om actief te zoeken naar illegale activiteiten, zo bepaalt artikel 8 van de DSA. Het uitgangspunt is dat platforms kennis nemen van illegale content als iemand die meldt. Die melding kan komen van een gebruiker, maar ook van ‘trusted flaggers’: organisaties die illegale content opsporen, vaststellen en melden bij online platforms. In Nederland is OfflimitsStichting Offlimits bestrijdt online misbruik en werkt met een meldpunt, hulplijn en een preventielijn aan een veilig en vrij internet. Offlimits is ook mede-eiser in het kortgeding dat samen met The Firewall en de Consumentenbond wordt gevoerd tegen Meta om de AI-bril van de markt te halen.bijvoorbeeld zo’n organisatie, die dient als meldpunt voor online seksueel grensoverschrijdend gedrag en (kinder)misbruik. Meld.Online Discriminatie verzamelt meldingen over online discriminatie en Stichting BREIN richt zich op inbreuk op auteursrechten.

Tegelijkertijd stimuleert de DSA platforms om zelf het initiatief te nemen in het onderzoek doen naar illegale content. Deze stimulans zit in de ‘Good Samaritan’-clausule die aan Safe Harbour werd toegevoegd, toen deze in 2022 in de DSA werd overgenomen uit de e-commercerichtlijn. Die clausule stelt dat platforms hun vrijstelling niet verliezen als ze uit eigen beweging onderzoek doen naar illegale content, om die op te sporen of ontoegankelijk te maken. Voorwaarde is wel dat ze dat zorgvuldig en ‘te goeder trouw’ doen (artikel 7 van de DSA).

Geen veilige haven voor Google

Als er sprake is van controle over de inhoud, kan een platform überhaupt geen aanspraak maken op Safe Harbour. Bijvoorbeeld als het platform zelf informatie verstrekt of er redactionele verantwoordelijkheid over heeft. Het is dan duidelijk dat het geen neutrale host is.

Zo oordeelde het Europese Hof van Justitie afgelopen juli dat YouTube zich niet kon beroepen op Safe Harbour voor bepaalde video’s van partnerkanalen. Het ging om video’s waarin online gokken werd gepromoot, die waren geüpload door een contentmaker in een samenwerkingsovereenkomst met YouTube. Dat ‘YouTube Partner Program’ is een samenwerking tussen YouTube en makers die geld willen verdienen met hun kanaal, waarbij YouTube redactionele verantwoordelijkheid heeft over de video’s die worden geüpload.

De zaak begon al in 2022 toen de Italiaanse toezichthouder AGCOM een boete van 750.000 euro oplegde aan Google, eigenaar van YouTube, en het bedrijf opdroeg video’s te verwijderen. De video’s waren namelijk in strijd met de Italiaanse wet. Google ging in hoger beroep en verwees daarbij, zoals verwacht, naar de vrijstelling van Safe Harbour.

Wie een kanaal met gok-content als hoofdthema screent en er geld aan verdient, kan moeilijk volhouden van niets te weten

De zaak werd voorgelegd aan de Italiaanse Raad van State, die zich net als de Franse rechter in de Coyote-zaak wendde tot het Europese Hof van Justitie. Volgens het Hof had Google geen louter technische en passieve rol als neutrale tussenpersoon. Het bedrijf beoordeelt kanalen die willen meedelen in de advertentie-inkomsten immers vooraf grondig. Makers die willen samenwerken met YouTube moeten daarvoor aan voorwaarden voldoen, zoals een minimaal aantal abonnees en kijkuren, en akkoord gaan met regels van YouTube. Er mogen bijvoorbeeld geen actieve overtredingen van de communityrichtlijnen op het kanaal staan. Daar staat tegenover dat de maker meedeelt in de opbrengsten van advertenties.

Zo bekijkt YouTube vooraf waar een kanaal over gaat en wat de meest bekeken en nieuwste video’s zijn. Daardoor weet het bedrijf waar het zaken mee doet. Bovendien bepalen de algoritmen van het platform hoe zichtbaar de video’s zijn, en verdient Google mee aan de commerciële activiteiten van de makers. Daarmee, zo redeneerde het Hof, is Google geen neutrale doorgever meer van de video’s, maar een actieve partij.

Uit het partnerschap leidt het Hof dus af dat Google kennis moet hebben gehad van de schadelijke inhoud: wie een kanaal met gok-content als hoofdthema screent en er geld aan verdient, kan moeilijk volhouden van niets te weten. Het gevolg is dat Google voor video’s van deze partnerkanalen zijn vrijstelling vanuit Safe Harbour kwijtraakte en kan worden beboet voor wat er via die partnerschappen wordt verspreid.

Safe Harbour biedt geen bescherming bij schending van onze privacy

Dat grote platforms zich niet langer zomaar kunnen verschuilen achter het verweer dat ze slechts een neutrale doorgever van informatie zijn, bleek eerder al bij een Roemeense zaak. Een Roemeense vrouw die op online marktplaats Publi24.rovalselijk werd afgeschilderd als aanbieder van seksuele diensten, spande een zaak aan tegen het platform. Niet alleen vanwege smaad en laster, maar ook wegens schending van de Algemene Verordening Gegevensbescherming (AVG), wat onze belangrijke privacywetgeving is.

Het Europese Hof oordeelde eind 2025 dat Russmedia, hostingprovider van de onlinemarktplaats, een neutrale doorgever is van content, en niet verwerkingsverantwoordelijke voor wat gebruikers delen aan persoonlijke gegevens. Tegelijkertijd, zo oordeelde het Hof, is het platform wél verwerkingsverantwoordelijk voor gebruikers met een account, van wie het de identiteit dient te controleren. Safe Harbour gaf Russmedia dus geen bescherming tegen schending van de AVG.

Gevolgen van Coyote-uitspraak

De genoemde zaken laten zien dat het Europese Hof van Justitie kritischer kijkt naar de rol van platforms en online marktplaatsen. De rechters lijken minder snel mee te gaan in een beroep op Safe Harbour, maar juist strenger te kijken naar wanneer een platform daarvoor in aanmerking komt. Ook komt er strengere digitale wetgeving aan, zoals de Digital Fairness Act en de Kids Act, die kinderen onder de 13 verbiedt om social media te hebben.

De noodzaak voor deze strengere wetgeving blijkt duidelijk uit Amerikaanse rechtszaken die tegen Meta werden gevoerd. Documenten uit deze zaak tonen aan dat Meta miljoenen kinderen onder de 13 bewust toeliet, hun data verzamelde en hen doelgericht probeerde te binden als groeimarkt. Interne studies naar mentale schade werden achtergehouden en veiligheidsmaatregelen werden door de top tegengehouden om de schermtijd en winst hoog te houden (“the young ones are the best ones”, stond in interne documenten), wat Meta betwist maar inmiddels wel heeft geleid tot een miljardenschikking.

De immuniteit van Safe Harbour brokkelt af voor Big Tech

De immuniteit van Safe Harbour brokkelt af voor de grote platformen, nu blijkt dat ze er geen aanspraak op kunnen maken wanneer ze aantoonbaar controle uitoefenen op de inhoud. Hoe meer een platform de verspreiding van content bepaalt, hoe moeilijker het is om vol te houden dat er alleen sprake is van het doorgeven van informatie. Het zou weleens het begin kunnen zijn van een nieuwe koers.

Ook Paddy Leerssen, universitair docent Platformregulering aan de Universiteit van Amsterdam (UvA), denkt dat de uitspraken de kansen zullen vergroten voor rechtszaken tegen onlineplatformen. “Platformen mengen zich actief in in het informatie-aanbod van gebruikers, bijvoorbeeld met aanbevelingsalgoritmes, en lopen daardoor eerder risico om aansprakelijk te worden gesteld,” schrijft hij.

Dat grote platforms de bescherming van Safe Harbour riskeren te verliezen, is goed nieuws voor de democratie. Big Tech krijgt dan meer verantwoordelijkheid voor de schadelijke inhoud die dagelijks aan gebruikers wordt voorgeschoteld. Het rangschikken, ordenen of aanbevelen van informatie geplaatst door gebruikers, betekent immers dat het platform een bepaalde controle uitoefent over die informatie en niet zomaar kan volhouden dat het een neutraal doorgeefluik is.

Merkbare gevolgen

Afgelopen zomer vond in Duitsland een rechtszaak plaats die al een indruk geeft van de gevolgen van Coyote. De zaak werd aangespannen door financieel informatieplatform Finanzfluss, wiens naam op Meta-platforms werd gebruikt in nepadvertenties.

Meta kon zich volgens de rechter, die expliciet naar Coyote verwees, niet langer op Safe Harbour beroepen bij deze frauduleuze advertenties die op Meta’s platforms aanwezig zijn. De aanbevelingsalgoritmes bepalen immers welke advertenties welke gebruikers bereiken. Door op deze manier te bepalen hoe inhoud verspreid wordt, werkt Meta niet langer als een passieve host. Meta moest de advertenties dan ook verwijderen en een vergoeding betalen.

Ook de veelvoorkomende AI-tools van Big Tech kunnen niet zomaar ontsnappen aan Europese regelgeving. Zo stelden Duitse rechters in juni Google verantwoordelijk voor de inhoud van antwoorden die door AI zijn verstrekt. De rechtbank oordeelde dat de door AI-gegenereerde samenvattingen die sinds 2024 boven de standaard zoekresultaten van Google verschijnen, niet slechts zoekresultaten weergeven, maar een afzonderlijke inhoud vormen die aan de AI-tool kan worden toegeschreven.

Ook hier gaat het om controle over inhoud, waarbij de rechtbank een duidelijk verschil ziet tussen het opsommen van zoekresultaten en een door AI-gegenereerde samenvatting daarvan. Google is volgens de rechters aansprakelijk voor onjuiste beweringen die door hun ‘AI Overviews’ zijn gegenereerd. Hoewel Google in hoger beroep gaat tegen de uitspraak, kan dit grote gevolgen hebben voor de aansprakelijkheid van Big Tech’s AI-systemen.

Google is aansprakelijk voor onjuiste beweringen die door hun ‘AI Overviews’ zijn gegenereerd

Ook in een nog recentere zaak komt de verandering rond platformaansprakelijkheid naar voren. Eind oktober stelde een Duitse rechter vragen over de grens tussen neutrale hosting en algoritmische controle aan het Europese Hof. Kan een sociaal netwerk zich blijven beroepen op de Safe Harbour-regeling als het door gebruikers gegenereerde content selecteert, rangschikt, presenteert en aanbeveelt met een algoritme, en tegelijkertijd beweert geen kennis te hebben van deze content door een geautomatiseerde verwerking? Oftewel, is controle over inhoud met een aanbevelingsalgoritme, zonder voorafgaande kennis van die inhoud, voldoende om de vrijstelling op Safe Harbour te verliezen?

Het Hof oordeelde dat controle via een aanbevelingsalgoritme inderdaad volstaat om de vrijstelling te verliezen, mits dat algoritme in het belang van het platform actief bepaalt welke content getoond wordt en met welke prioriteit. Deze uitspraak zal verder bijdragen aan de mogelijkheden voor het aansprakelijk stellen van grote Amerikaanse platforms, omdat ze direct raakt aan de kern van hun verdienmodel: gepersonaliseerde aanbevelingsalgoritmes die zijn gericht op maximale schermtijd en advertentie-inkomsten.

Strategische zetten van Big Tech

De machtige Big Tech doet er alles aan om de strengere regelgeving van de EU te omzeilen, en zoals gezegd weten ze zich hierbij in toenemende mate gesteund door de Amerikaanse regering. In 2016 kondigde Zuckerberg nog maatregelen aan om de verspreiding van onjuiste en misleidende informatie op Facebook aan te pakken, zoals het inschakelen van factcheckers en een tool waarmee onderzoekers desinformatie op Facebook konden volgen. Ook startte hij een publieke campagne om het imago van hem en zijn bedrijf te zuiveren. Van die koers is inmiddels weinig meer over.

De genoemde onderzoekstool werd in 2024 opgedoekt en kort na de herverkiezing van Trump kondigde Zuckerberg aan dat Meta in de VS zou stoppen met de factcheckers. Volgens Zuckerberg had het systeem geleid tot “te veel censuur”. Meta koos daarmee naar eigen zeggen weer voor vrijheid van meningsuiting en minder controle op content. Die draai past bij het vroege techno-libertarisme waar Zuckerberg ooit mee begon, maar het is ook een strategische toenadering tot Trump, die Meta jarenlang beschuldigde van anti-conservatieve censuur.

Binnen het Europees Parlement klinkt de oproep om niet voor die druk te zwichten. De groene Europarlementariër Alexandra Geese riep de Europese Commissie op de DSA krachtig te handhaven. “Ze zullen ons nooit respecteren als we niet tegen hen opstaan,” zei ze op 21 januari 2025. De keuze was volgens haar duidelijk: “knielen voor ongekozen tech-oligarchen” of opkomen voor de Europese burgersHaar letterlijke quote: “They will never respect us if we don't stand up to them. You have the choice: kneel in front of unelected tech oligarchs or use the DSA to fight for the citizens who actually elected us.”. Het is goed te zien dat Europa het laatste doet.