Als het aan de Europese Commissie ligt dan moeten grote techbedrijven als Meta, Google, Apple en Microsoft zelf kindermisbruik op hun respectievelijke platformen opsporen. Er zouden afgelopen jaar 85 miljoen foto's en video's met seksueel kindermisbruik gerapporteerd zijn, terwijl 'veel meer beelden nooit gerapporteerd worden'. Dit maakt het volgens de commissie noodzakelijk om bedrijven proactief naar dergelijk materiaal te laten zoeken, anders worden er hoge boetes uitgedeeld.
De Europese Commissie verplicht techbedrijven als het wetsvoorstel aangenomen wordt het volgende:
- Partijen moeten zelf de risicofactor inschatten omtrent de kans dat er op het platform kindermisbruik gedeeld wordt.
- Landen lid van de Europese Unie moeten een nationale autoriteit aanwijzen die beslist of de ingeschatte risicofactor reëel is.
- Bedrijven moeten op basis van parameters bepaald door de EU kindermisbruik tegengaan met een zo laag mogelijke impact op de privacy van gebruikers en met een zo laag mogelijke kans op valse positieven.
- Aanbieders van services moeten melding maken van kindermisbruik als er iets gedetecteerd wordt.
- Lidstaten kunnen opdracht geven om beelden te laten verwijderen.
- Appwinkels moeten voorkomen dat kinderen applicaties kunnen downloaden die hen aan grooming zou kunnen blootstellen.
- Het EU Centre verifieert eerst meldingen van kindermisbruik voordat de zaak overgeheveld wordt aan lokale autoriteiten.
Veel diensten van de betreffende bedrijven scannen al op afbeeldingen van kindermisbruik, al is niet duidelijk hoezeer techgiganten aan de voorgestelde regels van de EU voldoen. Bij client-side device scanning worden alle beelden in bijvoorbeeld een chat of cloudopslag vergeleken met een database. Als de beelden overeen komen, worden er meldingen gemaakt van het gedetecteerde kindermisbruik.
Het grote bezwaar tegen dergelijke scanning is de privacy van gebruikers en de betrouwbaarheid van een opsporingssysteem. Apple wilde bijvoorbeeld al kindermisbruik op iPhones opsporen, maar kwam met een plan dat door velen bekritiseerd werd. Sindsdien is er geen nieuw plan meer op tafel gelegd door de iPhone-maker. Andere organisaties bekritiseren de Europese Unie; er zou volgens critici feitelijk spionagesoftware op iedereens toestel geïnstalleerd worden.
Bron: Europese Commissie
