Factbox: Elon Musks Grok onder wereldwijde kritiek om seksuele AI-deepfakes

17 feb (Reuters) - Overheden en toezichthouders wereldwijd treden op tegen seksueel expliciete content die wordt gegenereerd door Elon Musks xAI-chatbot Grok op X, en starten onderzoeken, leggen verboden op en eisen waarborgen in een groeiende mondiale poging om illegaal materiaal in te dammen.

Hier zijn enkele reacties van overheden en toezichthouders sinds begin januari:

EUROPA

De Europese Commissie opende op 26 januari een onderzoek naar de vraag of Grok illegale content verspreidt, zoals gemanipuleerde geseksualiseerde beelden, in de EU. Het onderzoek zal nagaan of X de risico’s naar behoren heeft beoordeeld en beperkt, zoals vereist onder de digitale regels van het blok.

De Commissie had op 8 januari een vorig jaar naar X gestuurde order verlengd om alle interne documenten en gegevens met betrekking tot Grok te bewaren tot eind 2026.

De Ierse Data Protection Commission opende op 17 februari een onderzoek naar Grok, waarbij wordt gekeken naar de omgang met persoonsgegevens en het potentieel om schadelijke, geseksualiseerde beelden en video’s te genereren, inclusief van minderjarigen. De DPC houdt toezicht op X in de EU omdat het Europese hoofdkantoor van het bedrijf in Ierland is gevestigd.

De Spaanse regering gaf ondertussen opdracht aan aanklagers om X, Meta en TikTok te onderzoeken wegens vermeende verspreiding van door AI gegenereerd kindermisbruikmateriaal, zei premier Pedro Sanchez.

De Britse mediatoezichthouder Ofcom is een onderzoek gestart naar X om vast te stellen of door Grok geproduceerde seksueel intieme deepfakes in strijd waren met de plicht om mensen in het VK te beschermen tegen content die illegaal kan zijn, onder het kader van de Online Safety Act van het land.

De cybercrime-eenheid van de Parijse aanklager viel op 3 februari het kantoor van X in Parijs binnen en gelastte Musk om in april vragen te beantwoorden in verband met een breder onderzoek naar vermeende algoritmische vooringenomenheid, medeplichtigheid aan het bewaren en verspreiden van beelden van kinderpornografische aard en de schending van iemands portretrecht met seksueel expliciete deepfakes.

De Italiaanse gegevensbeschermingsautoriteit waarschuwde dat het gebruik van AI-tools om ‘uitgeklede’ deepfake-beelden van echte mensen zonder toestemming te creëren, kan neerkomen op ernstige privacyinbreuken en in sommige gevallen strafbare feiten kan vormen.

AZIË

Het Indiase IT-ministerie stuurde op 2 januari een formele kennisgeving naar X wegens vermeende, door Grok mogelijk gemaakte creatie of verspreiding van obscene geseksualiseerde beelden, waarbij werd opgedragen de content te verwijderen en binnen 72 uur te rapporteren over de genomen maatregelen.

Japan onderzocht X eveneens over Grok en verklaarde dat de regering elke mogelijke optie zou overwegen om de generatie van ongepaste beelden te voorkomen.

Het Indonesische ministerie van Communicatie en Digitalisering zei de toegang tot Grok te hebben geblokkeerd, een stap waarvan minister Meutya Hafid zei dat deze bedoeld was om vrouwen en kinderen te beschermen tegen door AI gegenereerde nep-pornografische content, onder verwijzing naar Indonesië’s strikte antipornografiewetten.

Maleisië herstelde de toegang tot Grok voor zijn gebruikers nadat X extra veiligheidsmaatregelen had ingevoerd, zei de communicatietoezichthouder op 23 januari.

De Filipijnen zullen de toegang tot Grok herstellen nadat de ontwikkelaar had beloofd om beeldmanipulatietools te verwijderen die zorgen over kindveiligheid hadden aangewakkerd, zei de cybercrime-eenheid van het land op 21 januari.

AMERIKA’S

De gouverneur en de procureur-generaal van Californië zeiden op 14 januari dat zij antwoorden eisten van xAI te midden van de verspreiding van niet-consensuele seksuele beelden op het platform.

De Canadese privacywaakhond zei een lopend onderzoek naar X uit te breiden na berichten dat Grok niet-consensuele, seksueel expliciete deepfakes genereerde.

De Braziliaanse regering en federale aanklagers gaven xAI 30 dagen de tijd om te voorkomen dat de chatbot valse, geseksualiseerde content verspreidt, aldus een gezamenlijke verklaring op 20 januari.

OCEANIË

De Australische online-veiligheidstoezichthouder eSafety zei op 7 januari Grok-gegenereerde, geseksualiseerde deepfake-beelden te onderzoeken, waarbij volwassen materiaal werd beoordeeld onder het schema voor beeldgebaseerd misbruik en werd opgemerkt dat de huidige kindgerelateerde voorbeelden die waren beoordeeld niet voldeden aan de wettelijke drempel voor kindermisbruikmateriaal onder de Australische wet.

HOE HEEFT xAI GEREAGEERD?

xAI zei op 14 januari dat het het bewerken van beelden voor Grok AI-gebruikers had beperkt en gebruikers, op basis van hun locatie, had geblokkeerd om beelden van mensen in onthullende kleding te genereren in ‘rechtsgebieden waar dit illegaal is’. Het noemde de landen niet.

Eerder had het het gebruik van Groks functies voor beeldgeneratie en -bewerking alleen beperkt tot betalende abonnees.

Bron: Reuters. Dit artikel is automatisch vertaald. Bekijk het originele artikel.