xAI beperkt bewerken van Grok-afbeeldingen na zorgen uit Californië en Europa

Door Raphael Satter

14 jan (Reuters) - Het kunstmatige-intelligentiebedrijf xAI van Elon Musk zei laat op woensdag dat het beperkingen heeft opgelegd aan alle gebruikers van zijn Grok AI-chatbot die het bewerken van afbeeldingen inperken, nadat de dienst geseksualiseerde beelden had geproduceerd die zorgen wekten bij toezichthouders wereldwijd.

"We hebben technologische maatregelen geïmplementeerd om te voorkomen dat het Grok-account het bewerken van afbeeldingen van echte mensen in onthullende kleding, zoals bikini's, toestaat. Deze beperking geldt voor alle gebruikers, inclusief betalende abonnees," zei het bedrijf in een bericht op X.

Hyperrealistische beelden van vrouwen die waren gemanipuleerd zodat het leek alsof ze microscopische bikini's droegen, in vernederende poses stonden of bedekt waren met blauwe plekken, overspoelden deze maand het sociale mediaplatform X. In sommige gevallen werden minderjarigen digitaal tot badkleding uitgekleed, wat brede kritiek ontketende.

Grok stond vorige week alleen betalende abonnees toe om de functies voor het genereren en bewerken van afbeeldingen te gebruiken. X beperkte vorige week voor veel gebruikers publiekelijk Groks vermogen om afbeeldingen te genereren of te bewerken, maar de chatbot produceerde woensdag, vóór de aankondiging van xAI, privé nog steeds seksueel getinte beelden op verzoek, ontdekte Reuters.

Miljardair Musk is eigenaar van xAI, dat op zijn beurt eigenaar is van X, voorheen bekend als Twitter.

xAI voegde woensdag toe dat het gebruikers op basis van hun locatie blokkeert voor het genereren van beelden van mensen in schaarse kleding in "rechtsgebieden waar het illegaal is". Het noemde die rechtsgebieden niet.

CALIFORNISCHE FUNCTIONARISSEN EISEN UITLEG

De gouverneur en de procureur-generaal van Californië zeiden eerder op woensdag dat zij opheldering eisen van xAI nadat Musk zei dat hij niet op de hoogte was van enige "naaktbeelden van minderjarigen" die door Grok waren gegenereerd.

"We eisen onmiddellijke antwoorden van xAI over hun plan om de creatie & verspreiding van deze content te stoppen," schreef de procureur-generaal van Californië, Rob Bonta, op X. Gouverneur Gavin Newsom riep Bonta op "het bedrijf onmiddellijk te onderzoeken en xAI ter verantwoording te roepen."

De opmerkingen van Newsom en Bonta waren tot dusver de meest serieuze van Amerikaanse functionarissen over de explosie van door AI gegenereerde, niet-consensuele geseksualiseerde beelden op X.

De stap in Californië vergrootte de druk op Musk in de VS en wereldwijd. Wetgevers en belangenorganisaties hebben Apple en Google opgeroepen om Grok uit appwinkels te verwijderen.

Overheidsfunctionarissen hebben actie gedreigd in Europa en het Verenigd Koninkrijk. Indonesië blokkeerde tijdelijk de toegang tot Grok.

In eerste instantie maakte Musk de controverse publiekelijk belachelijk door humoristische emoji's te plaatsen als reactie op opmerkingen van andere gebruikers over de toestroom van geseksualiseerde foto's. Recente tijd zei X dat het meldingen van materiaal over seksueel misbruik van kinderen serieus neemt en dit streng handhaaft.

Musk zei eerder op woensdag dat hij "niet op de hoogte was van enige naaktbeelden van minderjarigen die door Grok zijn gegenereerd. Letterlijk nul."

X reageerde niet onmiddellijk op vragen over de aankondiging uit Californië en Musks opmerkingen.

xAI reageerde niet direct op een per e-mail verstuurd verzoek om commentaar op de uitspraken van functionarissen in Californië of Musks bericht dat hij niet op de hoogte was van geseksualiseerde beelden van minderjarigen. Reuters ontving de generieke automatische antwoordboodschap op vragen: "Legacy Media Lies."

(Verslaggeving door Raphael Satter in Washington, Akash Sriram in Bengaluru en Chris Thomas in Mexico-Stad; Redactie door David Gregorio, Cythia Osterman en Jamie Freed)

Bron: Reuters. Dit artikel is automatisch vertaald. Bekijk het originele artikel.