X limita l’ús de la IA Grok després de les denúncies per imatges sexualitzades sense consentiment
El govern espanyol demana a la Fiscalia que investigue la plataforma d’Elon Musk mentre la Unió Europea i diversos estats alerten de possibles vulneracions de drets fonamentals
La plataforma X, propietat d’Elon Musk, ha restringit l’ús de la seua ferramenta d’intel·ligència artificial Grok arran de les protestes de diversos països europeus per la creació i difusió d’imatges sexualitzades de persones sense el seu consentiment, inclosos menors d’edat. A Espanya, el govern ha remés un escrit a la Fiscalia General de l’Estat perquè investigue la possible comissió de delictes relacionats amb pornografia infantil.
Grok permetia, amb només un clic, alterar fotografies per a mostrar persones amb poca roba o directament despullades, encara que mai hagueren donat autorització. En declaracions en À Punt, el catedràtic de dret civil i delegat de protecció de dades de la Universitat de València, Javier Plaza, advertix que “la intel·ligència artificial pot, a partir d’una foto d’un xiquet vestit, crear contingut pornogràfic sense exposar-lo físicament, però continua sent una vexació per al menor i per a la seua pròpia imatge”.
Segons Plaza, esta pràctica vulnera drets fonamentals com el dret a la pròpia imatge, a la vida privada i a l’honor. “Segons el pla de la Unió Europea, les intel·ligències artificials han de tindre en consideració el respecte als drets fonamentals”, ha subratllat també a À Punt. Un estudi sobre 20.000 imatges modificades amb Grok revela que el 53% mostraven persones en roba interior o biquini, el 81% eren dones i un 2% corresponien a menors d’edat.
A causa de la pressió institucional i social, X ha anunciat canvis en el funcionament de Grok. La plataforma ha eliminat l’opció gratuïta d’edició d’imatges i ha limitat esta funcionalitat als usuaris de pagament, de manera que el nom i les dades de subscripció queden associades al contingut generat. Musk ha assegurat que “qualsevol persona que utilitze Grok per a crear contingut il·legal patirà les mateixes conseqüències que si el puja directament a la xarxa”. Tot i això, Plaza considera que la mesura “pretén derivar la responsabilitat als usuaris” i advertix que encara es poden generar continguts que atempten contra els drets fonamentals.
Casos recents han posat el focus en l’impacte real d’esta tecnologia. En un institut de la Ribera, la Guàrdia Civil va investigar al juliol un jove de dèsset anys per manipular amb IA imatges de setze companyes de classe. Una situació similar es va produir a Almendralejo, on 21 xiquetes van ser víctimes d’imatges falses sexualitzades amb la implicació de fins a 26 menors. La mare d’una de les afectades explicava en À Punt que “abans de fixar-me bé en la foto, pensava que era ella nua; és hiperrealista”.
En paral·lel, Musk ha anunciat que el nou algoritme de recomanacions de X serà de codi obert en una setmana, amb actualitzacions periòdiques cada quatre setmanes. La mesura arriba mentre la Comissió Europea i França investiguen la plataforma per possibles incompliments de la regulació digital i manipulació del contingut. Malgrat els canvis anunciats, governs i experts coincidixen que la polèmica de Grok ha obert un debat profund sobre els límits ètics de la intel·ligència artificial i la responsabilitat de les plataformes digitals.
