OpenAI bant vermoedelijk China-gelinkte accounts om surveillancervoorstellen

(Reuters) - OpenAI zei dinsdag dat het verschillende ChatGPT-accounts heeft geblokkeerd met vermoedelijke banden met Chinese overheidsinstanties, nadat gebruikers om voorstellen hadden gevraagd om gesprekken op sociale media te monitoren.

In zijn nieuwste openbare dreigingsrapport zei OpenAI dat sommige individuen zijn chatbot hadden gevraagd om socialmedia-"listening"-tools en andere monitoringsconcepten te schetsen, wat in strijd is met het nationale veiligheidsbeleid van de startup.

Het rapport van het in San Francisco gevestigde bedrijf werpt veiligheidsvragen op over mogelijk misbruik van generatieve AI te midden van de groeiende concurrentie tussen de VS en China om de ontwikkeling en regels van de technologie vorm te geven.

OpenAI zei ook dat het verschillende Chineestalige accounts heeft geblokkeerd die ChatGPT gebruikten om phishing- en malwarecampagnes te ondersteunen en het model vroegen om extra automatisering te onderzoeken die via China’s DeepSeek kon worden bereikt.

De Chinese ambassade in de VS reageerde niet onmiddellijk op een verzoek om commentaar op het rapport.

Het blokkeerde ook accounts die gelinkt waren aan vermoedelijke Russischtalige criminele groeperingen die de chatbot gebruikten om bepaalde malware te helpen ontwikkelen, aldus OpenAI.

De door Microsoft gesteunde startup heeft meer dan 40 netwerken verstoord en gemeld sinds het in februari vorig jaar openbaar dreigingsrapportage begon, en zijn modellen wezen openlijk kwaadaardige prompts af, voegde het AI-bedrijf toe.

"We hebben geen bewijs gevonden van nieuwe tactieken of dat onze modellen bedreigingsactoren nieuwe offensieve capaciteiten hebben geboden," zei het bedrijf in het rapport.

OpenAI, dat nu meer dan 800 miljoen wekelijkse ChatGPT-gebruikers heeft, werd ’s werelds meest waardevolle startup met een waardering van 500 miljard dollar nadat het vorige week een secundaire aandelentransactie had afgerond.

(Verslaggeving door Jaspreet Singh in Bengaluru; redactie door Leroy Leo)

Bron: Reuters. Dit artikel is automatisch vertaald. Bekijk het originele artikel.