Teen Marvel-ster Xochitl Gomez is het nieuwste slachtoffer van deepfake-porno. Nadat ze echter de niet-consensuele seksueel expliciete deepfakes had ontdekt die circuleerden op X, voorheen Twitter, was ze in de war toen het platform er niet in slaagde actie te ondernemen en deze te verwijderen.
Er zijn veel problemen ontstaan naast de opkomst van kunstmatige intelligentie, maar deepfake-porno is een van de meest zorgwekkende. Hoewel deepfakes al geruime tijd bestaan, hebben technologische ontwikkelingen ze toegankelijker en overtuigender gemaakt. Als gevolg hiervan hebben veel individuen, vooral vrouwen, ontdekt dat hun beeltenis zonder hun toestemming is genomen of opnieuw is gemaakt en in pornografische inhoud is gebruikt. Het is een enorm probleem geworden voor vrouwelijke beroemdheden, maar ook voor gewone vrouwen die hebben ervaren dat hun beeltenis wordt gebruikt in seksueel expliciete inhoud voor wraakporno, intimidatie en pesten. Er bestaat ook grote bezorgdheid over het gebruik van deepfakes om kindermisbruik in beeld te brengen.
Helaas zijn er momenteel geen federale wetten tegen niet-consensuele deepfake-porno, en slechts een paar staten hebben wetgeving die burgers ertegen beschermt. Veel vrouwen die het slachtoffer zijn geworden van deepfake-pornografie hebben geen mogelijkheden meer om deze te bestrijden vanwege het gebrek aan regulering en de wetteloosheid van het internet. De meesten beschikken niet over de financiële middelen om juridische stappen te ondernemen. Zelfs beroemdheden als Scarlett Johansson hebben verklaard dat het nutteloos is om tegen de deepfakes te vechten.
Een klein niveau van bescherming dat vrouwen genieten, komt van de sociale mediaplatforms die deepfake en door AI gegenereerde porno hebben verboden. Als deze sites dergelijke verboden handhaven, zou dit de verspreiding van deze schadelijke inhoud moeilijker maken. Uit de ervaring van Gomez blijkt echter dat sociale media de regels niet handhaven.
Xochitl Gomez vertelt over haar ervaringen met deepfake-porno
(Axelle/Bauer-Griffin/Getty)
Terwijl hij verscheen op de podcast van Taylor Lautner en zijn vrouw, De Knijp , opende Xochitl Gomez (ook bekend als America Chavez) over haar ervaringen als slachtoffer van deepfake-pornografie. De 17-jarige onthulde dat ze het seksueel expliciete materiaal had gevonden dat circuleerde op X, voorheen Twitter, maar dat ze het uiterst moeilijk heeft om het te verwijderen. X verbood door AI gegenereerde porno in 2018 en heeft beleid tegen seksueel expliciete deepfake-afbeeldingen en -video's, evenals tegen misleidende media en naaktheid zonder wederzijds goedvinden. Gezien het feit dat de afbeeldingen van Gomez duidelijk in strijd zijn met de regels van X en er in deze content een minderjarige te zien is, zou je denken dat het platform direct actie zou ondernemen.
Gomez was echter geschokt toen ze ontdekte dat haar team al tevergeefs had geprobeerd actie te ondernemen tegen de inhoud. NBC-nieuws gerapporteerd dat de foto’s nog op 19 januari 2024 nog te vinden waren op X, dat niet reageerde op verzoeken om commentaar. Gomez legde uit dat de inhoud haar een beetje raar maakte en wanhopig wilde dat het werd verwijderd, omdat het er niet goed uitzag voor haar. Ze vroeg zich af: waarom is het zo moeilijk om het neer te halen? Dat was mijn hele gedachte erover: 'Waarom is dit toegestaan?'
Maar uiteindelijk legde ze zich erbij neer en accepteerde ze dat de inhoud simpelweg niet kon worden verwijderd. Ze onthulde dat ze er gewoon niet aan probeerde te denken en haar telefoon weglegde om het probleem op te lossen. Toch blijven de vragen die ze stelde zeer relevant. Waarom Is het zo moeilijk om deze inhoud te verwijderen? Het is moreel verwerpelijk en walgelijk als deepfake-porno wordt gemaakt van een niet-instemmend individu. Het is ronduit gruwelijk als het om een minderjarige gaat. Er circuleert echte kinderporno op X, en het platform doet er, bizar genoeg, niets aan, ook al zou dit het meest dringende probleem moeten zijn om aan te pakken.
Het klinkt nauwelijks als een complexe situatie als een individu seksueel expliciet materiaal rapporteert en het platform laat weten dat hij/zij daar niet mee instemt. Het materiaal is in strijd met meerdere regels op de website. Wat valt er nog meer te beoordelen of te bepalen? Het is al traumatiserend genoeg voor een individu om dit soort inhoud op sociale media te vinden; het minste wat deze platforms kunnen doen is gehoor geven aan hun verzoeken om het te laten verwijderen. Geen enkel individu, vooral geen minderjarige, zou zomaar moeten accepteren dat de inhoud er is, omdat X en andere sociale-mediaplatforms hardnekkig en verbijsterend weigeren hun gebruikers te beschermen.
(uitgelichte afbeelding: Axelle/Bauer-Griffin/FilmMagic / Getty)
