Californië bouwt AI-toezichtseenheid en zet door met xAI-onderzoek

Door Krystal Hu, Jeffrey Dastin en Max A. Cherney

SAN FRANCISCO, 17 feb (Reuters) - De procureur-generaal van Californië, Rob Bonta, bouwt aan een verantwoordingsprogramma voor kunstmatige intelligentie terwijl zijn kantoor Elon Musks xAI onderzoekt wegens het genereren van niet-consensuele seksueel expliciete afbeeldingen, zei hij dinsdag in een interview met Reuters.

Het kantoor van de procureur-generaal van Californië stuurde vorige maand snel een bevel tot staking en nalating naar xAI, terwijl toezichthouders wereldwijd het bedrijf onderzochten vanwege geseksualiseerde inhoud die zijn AI-chatbot Grok produceerde van volwassenen en mogelijk minderjarigen, zei Bonta.

Bonta zei dat zijn kantoor bevestiging zoekt dat het gedrag is gestopt en in gesprek blijft met het bedrijf. Hij zei dat xAI de verantwoordelijkheid afschoof en nog steeds enige generatie van geseksualiseerde inhoud toestaat voor betalende abonnees.

“Alleen omdat je stopt met doorgaan, betekent niet dat je een vrijbrief krijgt voor wat je hebt gedaan,” voegde Bonta toe.

XAI, onlangs overgenomen door Musks SpaceX, reageerde niet op een verzoek om commentaar.

In januari zei het bedrijf dat het maatregelen had toegevoegd om verzoeken van gebruikers voor geseksualiseerde afbeeldingen van echte mensen af te wijzen, bijvoorbeeld door ze te bewerken zodat ze een bikini dragen. XAI heeft ook gezegd dat het gebruikers blokkeert om dergelijke afbeeldingen te genereren in rechtsgebieden waar dat illegaal is.

De handhaving in Californië laat zien dat het Democratische bolwerk zijn rol als AI-waakhond omarmt, ondanks aanhoudende oproepen vanuit de industrie en sommige Republikeinse wetgevers om te verwijzen naar de federale autoriteiten voor wet- en regelgeving. Bonta waarschuwde tegen het geven van exclusieve regelgevende bevoegdheid aan het Congres, gezien de eerdere patstelling rond gegevensbescherming en AI.

Het kantoor van de procureur-generaal van Californië is zijn interne expertise aan het “opschalen” via het programma “AI oversight, accountability and regulation”, zei Bonta. AI-chatbots die seksueel expliciete gesprekken voeren met jongeren of hen vertellen hoe ze zelfmoord kunnen plegen, zijn onaanvaardbaar, zei hij.

De staatsautoriteiten hebben ook het in San Francisco gevestigde OpenAI laten weten dat Californië een “blijvende belangstelling” heeft voor zijn inspanningen om zijn producten en diensten veilig te houden, nadat Bonta’s kantoor vorig jaar heeft meegeholpen toezicht te houden op de herstructurering van het bedrijf, zei hij.

Het parlement van de staat overweegt een wetsvoorstel dat het kantoor van de procureur-generaal zou verplichten een programma op te zetten om expertise in AI op te bouwen.

In een gezamenlijk interview met Reuters noemde de procureur-generaal van Connecticut, William Tong, schade door AI en sociale media “de consumentenbeschermingsstrijd van onze tijd,” die uitgroeit tot een grotere strijd dan die rond opioïden. “Dit treft al onze kinderen,” zei hij.

Bron: Reuters. Dit artikel is automatisch vertaald. Bekijk het originele artikel.