Spanje onderzoekt X, Meta en TikTok om AI-gegenereerd kindermisbruikmateriaal

Door David Latona

MADRID, 17 feb (Reuters) - Spanje heeft aanklagers opdracht gegeven om de sociale mediaplatforms X, Meta en TikTok te onderzoeken wegens het naar verluidt verspreiden van door AI gegenereerd materiaal van seksueel kindermisbruik, terwijl Europese toezichthouders hun controle op big tech over schadelijke en illegale inhoud opvoeren.

De aankondiging van premier Pedro Sanchez komt te midden van een bredere hardere aanpak van onlineplatforms, waarbij toezichthouders hen beschuldigen van praktijken variërend van mededingingsbeperkend gedrag in digitale reclame tot het bewust ontwerpen van verslavende functies.

TikTok zei later op dinsdag dat materiaal over seksueel kindermisbruik "walgelijk en categorisch verboden is op ons platform".

"TikTok heeft robuuste systemen om pogingen te dwarsbomen om jonge mensen uit te buiten of te schaden, en we blijven prioriteit geven aan en investeren in geavanceerde technologieën om kwaadwillenden een stap voor te blijven," zei een woordvoerder van het bedrijf in een per e-mail verstuurde verklaring.

X en Meta reageerden niet onmiddellijk op verzoeken om commentaar.

De stap — de eerste uit een pakket socialemedia-regels dat Sanchez eerder deze maand op een regerings-top in Dubai presenteerde — was gebaseerd op een technisch rapport van drie ministeries, liet zijn kantoor later in een verklaring weten.

Regeringswoordvoerder Elma Saiz zei tegen verslaggevers dat de autoriteiten "niet kunnen toestaan dat algoritmen dergelijke misdrijven versterken of verhullen", eraan toevoegend dat de veiligheid, privacy en waardigheid van kinderen op het spel staan.

Afzonderlijk maakte de Ierse gegevensbeschermingsautoriteit dinsdag bekend een formeel onderzoek te hebben geopend naar X's xAI-chatbot Grok over de verwerking van persoonsgegevens en het potentieel om schadelijke geseksualiseerde beelden en video’s te genereren, ook van kinderen.

De DPC is de leidende EU-toezichthouder voor Elon Musks X omdat de EU-activiteiten van het Amerikaanse bedrijf in Ierland zijn gevestigd.

WERELDWIJDE CONTROLE OP TECHPLATFORMEN

Eén op de vijf jongeren in Spanje — vooral meisjes — zegt dat er nepnaaktbeelden van henzelf zijn gemaakt met AI en online zijn gedeeld terwijl ze minderjarig waren, aldus het kantoor van Sanchez, onder verwijzing naar de mensenrechtenorganisatie Save the Children.

"Deze platforms ondermijnen de geestelijke gezondheid, waardigheid en rechten van onze kinderen," schreef Sanchez op X. "De staat kan dit niet toestaan. De straffeloosheid van deze giganten moet eindigen."

Hij zei dat het ministerie van Justitie aanklagers zou vragen om "de misdrijven te onderzoeken die X, Meta en TikTok mogelijk plegen via het creëren en verspreiden van kinderpornografie met behulp van hun AI".

Spanje is niet het enige land dat hard optreedt tegen socialemediaplatforms. Andere regeringen hebben onderzoeken geopend, verboden opgelegd en waarborgen geëist in een wereldwijde poging om illegaal materiaal in te dammen.

De Europese Commissie onderzoekt Meta, TikTok en Grok onder de Digital Services Act van de Europese Unie, terwijl Frankrijk, Brazilië en Canada klachten hebben ingediend tegen Grok vanwege de verspreiding van illegale inhoud.

Twee weken geleden schetste Sanchez nieuwe maatregelen om online misbruik aan te pakken en kinderen te beschermen, waaronder een voorgesteld verbod op toegang tot sociale media voor jongeren onder de 16.

Op dezelfde dag vielen Franse politieagenten de kantoren van Musks X binnen en gelasten aanklagers de miljardair te verhoren in een zich uitbreidend onderzoek.

In november zei Sanchez dat het Spaanse parlement een onderzoek zou instellen naar Meta wegens mogelijke privacyovertredingen met betrekking tot gebruikers van Facebook en Instagram.

Vorig jaar signaleerde de in het Verenigd Koninkrijk gevestigde Internet Watch Foundation 3.440 AI-video’s van seksueel kindermisbruik, vergeleken met slechts 13 in 2024.

Bron: Reuters. Dit artikel is automatisch vertaald. Bekijk het originele artikel.