Britse overheid werkt met Microsoft aan systeem voor deepfake-detectie

LONDEN, 5 feb (Reuters) - Het Verenigd Koninkrijk gaat samenwerken met Microsoft, academici en experts om een systeem te ontwikkelen dat deepfake-materiaal online kan opsporen, aldus de regering donderdag, terwijl het werkt aan normen voor het aanpakken van schadelijke en misleidende door AI gegenereerde content.

Hoewel gemanipuleerd materiaal al decennialang online circuleert, hebben de snelle adoptie van generatieve AI-chatbots — mogelijk gemaakt door de lancering van ChatGPT en andere — de zorgen over de schaal en realiteit van deepfakes vergroot.

Het Verenigd Koninkrijk, dat onlangs de creatie van niet-consensuele intieme beelden strafbaar heeft gesteld, zei te werken aan een evaluatiekader voor deepfake-detectie om consistente normen vast te stellen voor het beoordelen van detectietools en -technologieën.

"Deepfakes worden door criminelen als wapen ingezet om het publiek te bedriegen, vrouwen en meisjes uit te buiten en het vertrouwen in wat we zien en horen te ondermijnen," zei technologieminister Liz Kendall in een verklaring.

OVERHEDEN AANGEZET TOT ACTIE DOOR NIET-CONSENSUELE AFBEELDINGEN

Volgens de regering zal het kader evalueren hoe technologie kan worden gebruikt om schadelijk deepfake-materiaal te beoordelen, te begrijpen en te detecteren, ongeacht de bron, door detectietechnologieën te testen tegen reële dreigingen zoals seksueel misbruik, fraude en persoonsverwisseling.

Dat zou de regering en wetshandhavers helpen beter inzicht te krijgen in waar hiaten in de detectie blijven bestaan, aldus de verklaring, eraan toevoegend dat het kader zal worden gebruikt om duidelijke verwachtingen te scheppen voor industrieën over normen voor deepfake-detectie.

Volgens overheidsgegevens werden in 2025 naar schatting 8 miljoen deepfakes gedeeld, tegen 500.000 in 2023.

Overheden en toezichthouders wereldwijd, die worstelen om gelijke tred te houden met de snelle evolutie van AI-technologie, werden dit jaar tot actie aangezet toen Elon Musks chatbot Grok niet-consensuele geseksualiseerde afbeeldingen van mensen, waaronder kinderen, bleek te genereren.

De Britse communicatiewaakhond en privacytoezichthouder voeren parallelle onderzoeken uit naar Grok.

(Verslag door Muvija M; Redactie door Joe Bavier)

Bron: Reuters. Dit artikel is automatisch vertaald. Bekijk het originele artikel.