Europese wetgeving tegen kindermisbruik: deur op kier voor massasurveillance?

[Clover]

De afgelopen dagen/weken gaat vooral het verkiezingsnieuws met de aandacht lopen, maar in de schaduw daarvan wordt op Europees niveau aan wetgeving gewerkt die volgens critici de deur openzet naar massasurveillance.

Onder impuls van België (als voorzitter van de Europese Raad) staat een nieuw wetsvoorstel in de steigers in de strijd tegen de online verspreiding van beelden van kindermisbruik. Critici en bepaalde experten menen dat het voorstel echter wel erg ver gaat: wanneer een burger via een communicatieapp foto’s of video’s zou doorsturen, dan zouden deze beelden systematisch gescand worden met artificiële intelligentie. Wie niet instemt met deze controle, zou de communicatieapps enkel nog kunnen gebruiken voor het versturen van tekst en audioberichten.

Meer info:
https://datanews.knack.be/nieuws/eu...-blijft-hameren-op-scannen-verzonden-beelden/

Ikzelf snap niet dat er in de media zo weinig ruchtbaarheid wordt gegeven aan een dergelijk ingrijpend wetsvoorstel. In alle eerlijkheid: toen ik enkele dagen geleden voor het eerst nieuwsartikels zag verschijnen over het voorstel, dacht ik eerst dat het om nepnieuws en een complottheorie ging.

Helaas blijkt deze wetgeving dus effectief op tafel te liggen. Sterker nog, het voorstel lijkt onder politici breedgedragen te zijn. Nochtans krijgt de eerste politicus die zich luid en duidelijk tegen het voorstel durft uit te spreken, gegarandeerd mijn stem bij de Europese verkiezingen.

Dergelijk nieuws stemt mij persoonlijk bijzonder somber. Ik had nooit gedacht de Europese samenleving zo snel te zien grijpen naar maatregelen die je eerder van een totalitaire staat zou verwachten.

Wat denken jullie van het wetsvoorstel? Heiligt het doel de middelen of is er hier sprake van een ongeoorloofde schending van de privacy?

 

[Didymus]

Bijzonder slecht idee uiteraard, al tot op het bot afgekraakt door experts zoals Bart Preneel, wereldvermaard cryptograaf aan de KU Leuven. Signal dreigt er zelfs al mee haar diensten in de EU op te schorten als dit er komt:

https://twitter.com/x/status/1796508893822238881

Nochtans krijgt de eerste politicus die zich luid en duidelijk tegen het voorstel durft uit te spreken, gegarandeerd mijn stem bij de Europese verkiezingen.

Sophie in 't Veld (lijsttrekker Volt) is de enige die ik tot nu toe daarover heb gehoord, weliswaar verkeerd gekaderd (de GDPR biedt daar geen enkele bescherming tegen)

https://twitter.com/x/status/1794016422047232203

De enige politici die je momenteel nog vocaal iets hoort zeggen over privacy zitten bij PVDA en Vlaams Belang, maar hoe geloofwaardig is dat, als je tegelijk blijft dwepen met autoritaire regimes/leiders die compleet lak hebben aan mensenrechten en vrije meningsuiting.

Applaus komt er dan weer van mensen als onderzoeksrechter Philippe Van Linthout die ons probeert wijs te maken dat we hier beschermd worden door checks-and-balances:

Europese politiediensten willen geen end-to-end-versleuteling op berichtenplatformen: "Onze huizen worden gevaarlijker dan onze straten"

www.vrt.be

 

[Sir.Killalot]

Ik snap waar de wetgeving vandaan komt. We moeten de pakkans omhoog halen, dat is de enige manier om kinderen te beschermen. Dat geldt ook voor voorstellen rond camerabewaking enzo. Hoe dit te rijmen met privacy echter, en hoe voorkom je valse positieven? Als wij een foto van onze kleuters in het zwembad doorsturen via WhatsApp, worden we dan geflagd?

Zo'n systeem moet echt waterdicht zijn, en daar heb ik ernstige twijfels bij. En wat als er een overheid aan de macht komt die méér wilt? Nog maar een reden om Europees op Volt te stemmen dus.

In één van de stemtesten ging er een vraag over camerabewaking, als ik het me goed herinner was Groen daar ook geen voorstander van. Vooruit dan weer wel, wat me tegenviel.

 

[Didymus]

We moeten de pakkans omhoog halen, dat is de enige manier om kinderen te beschermen. Dat geldt ook voor voorstellen rond camerabewaking enzo. Hoe dit te rijmen met privacy echter, en hoe voorkom je valse positieven? Als wij een foto van onze kleuters in het zwembad doorsturen via WhatsApp, worden we dan geflagd?

Wat men telkens "vergeet" bij dergelijke privacy-invasieve voorstellen is dat kindermisbruikers/terroristen/andere zware criminelen zich geen hol aantrekken van wetgeving en gewoon naar een ander platform dat niet aan de Europese wetgeving voldoet, zullen verhuizen.

edit: Overzicht van de Belgische MEP's die voor en tegen het vorige voorstel hebben gestemd:

https://mepwatch.eu/9/vote.html?v=134463&country=be

Tegenstemmen dus van Groen, Ecolo en PVDA-PTB.

 

[Sir.Killalot]

Wat men telkens "vergeet" bij dergelijke privacy-invasieve voorstellen is dat kindermisbruikers/terroristen/andere zware criminelen zich geen hol aantrekken van wetgeving en gewoon naar een ander platform dat niet aan de Europese wetgeving voldoet, zullen verhuizen.

edit: Overzicht van de Belgische MEP's die voor en tegen het vorige voorstel hebben gestemd:

https://mepwatch.eu/9/vote.html?v=134463&country=be

Tegenstemmen dus van Groen, Ecolo en PVDA-PTB.

Dat wordt dan gecountered met het argument dat ze daarmee de drempel wel hoger maken, maar dat lijkt me in veel gevallen inderdaad een maat voor niets.

 

[Bongobong]

In het geval van kindermisbruik ben ik wel van mening dat het doel de middelen mag heiligen.

Dat andere platformen blijven bestaan voor de meer tech savy criminelen is waarschijnlijk waar, maar dat wil niet zeggen dat het het niet waard is om deze wetgeving toe te passen op Europese platformen. Men gaat hier mee het delen van afbeeldingen van misbruik niet kunnen uitbannen, maar misschien kan men op deze manier toch heel wat menselijk leed voorkomen.

Aan de andere kant, het afluisteren van privégesprekken tussen twee personen, die dan ook, veronderstel ik, niet meer versleuteld kunnen gebeuren, gaat wel erg ver.

 

[zarathustra]

Ik snap waar de wetgeving vandaan komt. We moeten de pakkans omhoog halen, dat is de enige manier om kinderen te beschermen. Dat geldt ook voor voorstellen rond camerabewaking enzo. Hoe dit te rijmen met privacy echter, en hoe voorkom je valse positieven? Als wij een foto van onze kleuters in het zwembad doorsturen via WhatsApp, worden we dan geflagd?

De betere vraag is misschien, apps en platform die end to end encryption aanbieden.. hoe en waar wordt dat dan juist gescand?

Als die foto van uw kleuters geëncrypteerd wordt doorgestuurd.. hoe gaan ze dat juist scannen? Encryptie verplicht weg/verbieden? Of iedereen dwingen om iets op hun toestel te hebben dat alles (?) kan scannen? Lijkt me dat er geen enkele manier is waarom dat goed kan aflopen

 

[Didymus]

In het geval van kindermisbruik ben ik wel van mening dat het doel de middelen mag heiligen.

Hoe ver wil je hierin gaan? Camera's in iedere woning, want uiteindelijk wordt het meeste misbruik door bekenden gepleegd? Los van de technische bezwaren is het een zéér gevaarlijk hellend vlak en is het geen toeval dat het hoofdargument pro de volledig legitieme strijd tegen kindermisbruik is.

Men gaat hier mee het delen van afbeeldingen van misbruik niet kunnen uitbannen, maar misschien kan men op deze manier toch heel wat menselijk leed voorkomen.

Of men gaat hier heel wat extra menselijk leed veroorzaken door onschuldige ouders als potentiële kindermisbruikers te brandmerken. Het is maar hoe je het bekijkt.

Of iedereen dwingen om iets op hun toestel te hebben dat alles (?) kan scannen?

Voorstel is om alle foto's en video's nog vóór ze geëncrypteerd worden te scannen op het toestel en dat bij een detectie van CSAM de autoriteiten op de hoogte worden gebracht. Platformen die in de EU hun diensten willen blijven aanbieden zullen dit verplicht moeten implementeren.

 

[Li1quid]

Louche types zullen andere apps gebruiken en wij zullen de dupe zijn van de surveillance.
En als ik zelf niet wil bespioneerd worden door de overheid zullen ze me labelen als crimineel.

Weg ermee.

 

[zarathustra]

Voorstel is om alle foto's en video's nog vóór ze geëncrypteerd worden te scannen op het toestel en dat bij een detectie van CSAM de autoriteiten op de hoogte worden gebracht. Platformen die in de EU hun diensten willen blijven aanbieden zullen dit verplicht moeten implementeren.

Dus letterlijk elke foto wordt gescand door de overheid dan? Moest China dat invoeren het kot was te klein.

 

[Deckard]

Dus letterlijk elke foto wordt gescand door de overheid dan? Moest China dat invoeren het kot was te klein.

Volgens het artikel uit Knack lijkt dat er zo op ja.

...
In het nieuwe voorstel mag er enkel gericht worden onderzocht. Dat wil zeggen dat enkel ‘users of interest’ worden gemarkeerd voor verder onderzoek naar beelden van kindermisbruik. In praktijk wil dat zeggen dat elk beeld of bericht dat je verstuurt door je toestel of de applicatie automatisch wordt gescand. Detecteert dat een gekend beeld van seksueel kindermisbruik twee keer, ben je gemarkeerd voor verder onderzoek. Gaat het om nieuw/onbekend materiaal dan is dat vanaf drie keer.
...

 

[Remake]

Louche types zullen andere apps gebruiken en wij zullen de dupe zijn van de surveillance.
En als ik zelf niet wil bespioneerd worden door de overheid zullen ze me labelen als crimineel.

Weg ermee.

Die apps gaan ook een voor een ontmanteld worden. Dat er altijd omwegen gevonden zullen worden vind ik echt geen argument om niet te doen.

 

[Bongobong]

Hoe ver wil je hierin gaan? Camera's in iedere woning, want uiteindelijk wordt het meeste misbruik door bekenden gepleegd?

Ik ben over het algemeen van mening dat de overheid veel minder aanwezig moet zijn in het leven van mensen en hun gemeenschappen. Maar kinderen kunnen zich niet beschermen, en dus zie ik daar wel een rol van de overheid in.

Of mass surveillance de juiste piste is wrs twijfelachtig.

Voorstel is om alle foto's en video's nog vóór ze geëncrypteerd worden te scannen op het toestel en dat bij een detectie van CSAM de autoriteiten op de hoogte worden gebracht. Platformen die in de EU hun diensten willen blijven aanbieden zullen dit verplicht moeten implementeren.

Dit is dan vergelijkbaar met wat Apple recent op eigen initiatief wou implementeren als ik het goed herinner?

 

[Deckard]

Ik ben over het algemeen van mening dat de overheid veel minder aanwezig moet zijn in het leven van mensen en hun gemeenschappen. Maar kinderen kunnen zich niet beschermen, en dus zie ik daar wel een rol van de overheid in.

Of mass surveillance de juiste piste is wrs twijfelachtig.


Dit is dan vergelijkbaar met wat Apple recent op eigen initiatief wou implementeren als ik het goed herinner?

Denk dat het Microsoft was met hun Windows Recall?

 

[Didymus]

Dat er altijd omwegen gevonden zullen worden vind ik echt geen argument om niet te doen.

Het argument is eerder dat criminelen die omwegen altijd zullen blijven uitbuiten omdat ze daar een duidelijke incentive voor hebben terwijl de brave burger wél onderworpen wordt aan de mass surveillance.

Denk dat het Microsoft was met hun Windows Recall?

Nee, dat was wel degelijk Apple: https://www.apple.com/child-safety/pdf/CSAM_Detection_Technical_Summary.pdf
Bij Windows Recall zou hulp bij het opsporen van CSAM hoogstens een nevenwerking zijn.

 

[Remake]

Het argument is eerder dat criminelen die omwegen altijd zullen blijven uitbuiten omdat ze daar een duidelijke incentive voor hebben terwijl de brave burger wél onderworpen wordt aan de mass surveillance.

Ik zie dat van de andere kant. Wat heeft die brave burger nu te vrezen van al die controles? Het kan toch alleen maar positief zijn om criminelen op te sporen?
ANPR was destijds ook zoiets, Rudy was er ook tegen, maar heeft Rudy daar al last van gehad (buiten zijn onbetaalde wegentaks)? Er zijn al heel wat gestolen of gesignaleerde auto's uit het verkeer gehaald er mee. Ik trek dan gewoon de lijn door. We worden nu al gefilmd bij elke beweging die we maken in het openbaar, wat is het probleem dan als brave burger om dat ook te kunnen gebruiken om criminelen op te sporen?

 

[zarathustra]

Die apps gaan ook een voor een ontmanteld worden. Dat er altijd omwegen gevonden zullen worden vind ik echt geen argument om niet te doen.

Mnee het feit dat al uw foto’s worden geregistreerd in een overheidssysteem is een reden om dat niet doen.

 

[zarathustra]

Ik zie dat van de andere kant. Wat heeft die brave burger nu te vrezen van al die controles? Het kan toch alleen maar positief zijn om criminelen op te sporen?
ANPR was destijds ook zoiets, Rudy was er ook tegen, maar heeft Rudy daar al last van gehad (buiten zijn onbetaalde wegentaks)? Er zijn al heel wat gestolen of gesignaleerde auto's uit het verkeer gehaald er mee. Ik trek dan gewoon de lijn door. We worden nu al gefilmd bij elke beweging die we maken in het openbaar, wat is het probleem dan als brave burger om dat ook te kunnen gebruiken om criminelen op te sporen?

Omdat dat niet in het openbaar is?

Als ik foto's van mijn kinderen neem wil ik niet dat die door de EU bekeken worden, of foto's van iets op het werk, of van "een vriendin" zoals velen ook doen.

 

[NemesisBE]

Heel vreemd en beangstigend. De volgende stap die dan gezet zal worden: we scannen gewoon ieders gsm op elke mogelijke media die wel eens crimineel zou kunnen zijn.

 

[Didymus]

Ik zie dat van de andere kant. Wat heeft die brave burger nu te vrezen van al die controles? Het kan toch alleen maar positief zijn om criminelen op te sporen?
ANPR was destijds ook zoiets, Rudy was er ook tegen, maar heeft Rudy daar al last van gehad (buiten zijn onbetaalde wegentaks)?

Wel, ik vind de wildgroei aan ANPR-camera's óók een probleem. Die zijn ons verkocht om terroristen en zware criminelen op te sporen, maar worden ondertussen vooral gebruikt om gemeentekassen en de rekening van één bepaald privébedrijf te spijzen.

Er zijn al heel wat gestolen of gesignaleerde auto's uit het verkeer gehaald er mee.

Door de vaste ANPR-camera's waar niet genoeg personeel voor is om de alarmen te behandelen? Twijfelachtig.

Ik trek dan gewoon de lijn door. We worden nu al gefilmd bij elke beweging die we maken in het openbaar, wat is het probleem dan als brave burger om dat ook te kunnen gebruiken om criminelen op te sporen?

Het probleem is dat onze privacy stelselmatig wordt afgebouwd onder valse voorwendselen, door een overheid die keer op keer bewijst dat ze niet in staat zijn om de gevoelige data van haar burgers adequaat te beschermen.