Het wetsvoorstel van de Europese Unie om chats te scannen op beelden van kindermisbruik, wordt hevig bekritiseerd door 270 wetenschappers in een open brief. Vanuit een juridisch oogpunt rijst de vraag of dit voorstel de juiste balans weet te vinden tussen de bescherming van kinderen en het waarborgen van fundamentele rechten zoals privacy. In deze blog analyseren we de juridische implicaties van het wetsvoorstel en de kritiek die daarop is geuit.
1. Wat staat er in het wetsvoorstel?
Het EU-wetsvoorstel verplicht berichtendiensten, zoals WhatsApp, om berichten te scannen op beelden van kindermisbruik. De kern van het voorstel is dat de dienstverleners de berichten van hun gebruikers analyseren en deze vergelijken met databases van bekende kinderpornografische beelden. Daarnaast zouden AI-systemen ingezet worden om nieuw misbruikmateriaal te detecteren. Het voorstel vereist tevens dat pogingen tot ‘grooming’ worden opgemerkt en gerapporteerd aan een nieuw Europees meldpunt.
Vanuit een juridisch oogpunt roept dit voorstel meteen vragen op met betrekking tot de naleving van de privacywetgeving, zoals neergelegd in de Algemene Verordening Gegevensbescherming (AVG). Het monitoren van persoonlijke communicatie raakt aan fundamentele rechten, wat betekent dat het voorstel de proportionaliteit en noodzakelijkheid moet kunnen aantonen om in lijn te zijn met het Europees Verdrag voor de Rechten van de Mens (EVRM).
2. Dit speelt toch al langer?
De kwestie rondom het opsporen van kindermisbruik via digitale middelen is al langer onderwerp van debat binnen de Europese Unie. Het eerste wetsvoorstel dateert van 2022, en sindsdien zijn er verschillende aanpassingen voorgesteld door zowel het Europees Parlement als de Raad van de Europese Unie. Met name de juridische balans tussen kindbescherming en privacyrechten staat hierbij centraal. De recente aanpassingen, waaronder het indelen van communicatiediensten in risicocategorieën, zijn bedoeld om de juridische bezwaren te adresseren.
3. Wat stellen de lidstaten voor?
De belangrijkste wijziging in het voorstel van de Raad van de Europese Unie is het gericht scannen van berichten op basis van een risicoclassificatie. Communicatiediensten worden ingedeeld in vier categorieën, afhankelijk van het risico op misbruik. Alleen diensten met het hoogste risico worden volledig gecontroleerd, waarbij versleutelde berichten vóór verzending gescand moeten worden.
Dit roept echter belangrijke juridische vragen op. Volgens Europese jurisprudentie is eind-tot-eind-encryptie bedoeld om ervoor te zorgen dat alleen de afzender en ontvanger toegang hebben tot de inhoud van de berichten. Het scannen van berichten vóór encryptie ondermijnt dit principe, wat mogelijk in strijd is met het recht op privacy en communicatievrijheid, zoals gegarandeerd in artikel 8 van het EVRM.
4. Wat is de kritiek van de wetenschappers?
De wetenschappers beargumenteren dat de maatregelen een vergaande inbreuk vormen op de privacy van burgers, zonder dat het effectief zou zijn in de bestrijding van kindermisbruik. Het idee van risicoclassificatie van diensten wordt juridisch gezien als problematisch, omdat het lastig is om objectief vast te stellen welke diensten meer risico lopen op misbruik. Bovendien zou een dergelijke classificatie kunnen leiden tot een breed toezicht op diensten zoals WhatsApp, waardoor de rechten van miljoenen Europese burgers geschonden worden.
Een ander belangrijk punt van zorg is de mogelijkheid van valse positieven. Zelfs bij een foutmarge van 0,1% zouden systemen een grote hoeveelheid onterechte meldingen genereren. Deze meldingen zouden allemaal door mensen moeten worden beoordeeld, waardoor er een significante belasting ontstaat op opsporingsinstanties, en mogelijk legitieme meldingen ondergesneeuwd raken. Dit zou het proportionaliteitsprincipe, zoals geëist door het Europees recht, schenden.
5. Is de bestrijding van kinderporno niet belangrijker dan versleuteling?
Het is onbetwist dat het bestrijden van kinderporno een belangrijke maatschappelijke prioriteit is. Juridisch gezien is echter de proportionaliteit van de middelen essentieel. De wetenschappers stellen dat het wetsvoorstel een onevenredige inbreuk maakt op fundamentele rechten zonder een proportioneel resultaat. In hun visie zou het aanpakken van de onderliggende oorzaak – namelijk het daadwerkelijke kindermisbruik – de prioriteit moeten krijgen, in plaats van het massaal scannen van communicatie.
Daarnaast brengt de invoering van een scanmechanisme risico's met zich mee voor misbruik van het systeem. Er is een reële mogelijkheid dat dit soort technologieën in de toekomst ook voor andere doeleinden worden gebruikt, wat kan leiden tot bredere vormen van surveillance en zelfs censuur. Het EVRM stelt strikte grenzen aan inbreuken op de vrijheid van meningsuiting, en het voorstel zou op dit punt juridische uitdagingen kunnen tegenkomen.
Conclusie
Vanuit een juridisch perspectief is het EU-wetsvoorstel een complexe poging om kindermisbruik aan te pakken, maar het roept ernstige zorgen op over de bescherming van fundamentele rechten zoals privacy en communicatievrijheid. De kritiek van de wetenschappers onderstreept dat het voorstel niet alleen technische uitdagingen kent, maar ook mogelijk juridische barrières zal tegenkomen. Het is essentieel dat het Europese beleid voldoet aan de proportionaliteitseisen van het rechtssysteem, zodat de maatregelen doeltreffend zijn, maar tegelijkertijd de rechten van burgers niet onnodig schenden.