De Franse autoriteiten zijn een strafrechtelijk onderzoek gestart naar TikTok, waarbij de nadruk ligt op beschuldigingen dat het populaire videoplatform zelfmoordinhoud promoot en algoritmen gebruikt die kwetsbare jonge gebruikers tot zelfbeschadiging kunnen aanzetten. Deze actie volgt op de toenemende druk van Franse gezinnen, parlementariërs en internationale waakhondgroepen die beweren dat TikTok er niet in slaagt kinderen adequaat te beschermen tegen schadelijk materiaal.
Het parket van Parijs kondigde aan dat het onderzoek specifiek de inhoud zal onderzoeken “die met name bestaat uit het bevorderen van zelfmoord”, en ook of TikTok de autoriteiten op de juiste manier op de hoogte heeft gesteld van mogelijke schendingen gepleegd door gebruikers op zijn platform. De Franse wet schrijft voor dat tussenpersonen zoals sociale-mediabedrijven ernstige overtredingen bij de politie moeten melden. Mogelijke misdaden die worden onderzocht zijn onder meer ‘propaganda voor producten of methoden … gebruikt om iemands leven te beroven’.
Dit onderzoek heeft een aanzienlijk gewicht, waarbij mogelijke veroordelingen leiden tot gevangenisstraffen en aanzienlijke boetes voor degenen die schuldig worden bevonden. Het onderzoek bevindt zich met name in de beginfase; op dit moment zijn er geen personen genoemd als potentiële verdachten.
TikTok onder vuur van gezinnen en parlement
Het onderzoek komt voort uit een samenloop van gebeurtenissen. Vorig jaar dienden zeven gezinnen een aanklacht in tegen TikTok Frankrijk, omdat ze beweerden dat het platform er niet in slaagde de schadelijke inhoud te modereren en kinderen bloot te stellen aan levensbedreigend materiaal. Twee van deze families verloren op tragische wijze hun kinderen. Bij één van deze gevallen was de 15-jarige Marie Le Tiec betrokken. Na haar dood ontdekte Stephanie Mistre, de moeder van Marie, verontrustende video’s op de telefoon van haar dochter. Deze omvatten handleidingen over zelfmoordmethoden, grafische afbeeldingen van zelfbeschadiging en opmerkingen die gebruikers aanmoedigden om van louter pogingen tot volledige zelfmoorden te escaleren.
Mistre beweert dat het algoritme van TikTok deze gevaarlijke inhoud herhaaldelijk voor haar dochter heeft opgedoken. ‘Ze normaliseerden depressie en zelfbeschadiging,’ zei ze, ‘en veranderden het in een verwrongen gevoel van verbondenheid.’
Deze zaak staat niet op zichzelf. Franse parlementariërs voerden hun eigen onderzoek uit naar de impact van TikTok op de geestelijke gezondheid van kinderen en droegen uiteindelijk bij aan het strafrechtelijke onderzoek. Internationale organisaties zoals Amnesty International publiceerden ook rapporten waarin soortgelijke zorgen over de inhoudsmoderatiepraktijken van TikTok en de mogelijke schade voor jonge gebruikers werden beschreven.
TikTok verdedigt zijn veiligheidsmaatregelen
In reactie op het parlementaire rapport bracht TikTok dinsdag een verklaring uit waarin de nadruk werd gelegd op de veiligheidskenmerken. Ze benadrukten meer dan 50 vooraf ingestelde instellingen die zijn ontworpen om tieners te beschermen en beweerden dat negen van de tien inbreukmakende video’s worden verwijderd voordat ze worden bekeken. Critici beweren echter dat deze maatregelen tekortschieten, vooral als het gaat om algoritmen die kwetsbare gebruikers onbedoeld in de richting van schadelijke inhoud kunnen duwen.
Het strafrechtelijk onderzoek in Frankrijk zal de activiteiten van TikTok nauwkeuriger onderzoeken, wat mogelijk een precedent schept voor soortgelijk onderzoek van andere regeringen die zich zorgen maken over de veiligheid en het welzijn van kinderen op sociale-mediaplatforms. De uitkomst zou een aanzienlijke impact kunnen hebben op de manier waarop technologiebedrijven verantwoordelijk worden gehouden voor de inhoud die op hun sites wordt gedeeld en de mogelijke gevolgen van het niet beschermen van gebruikers, met name minderjarigen.
