Denuncian a Grok, la IA de Elon Musk, por generar imagenes sexualizadas: “Es un secuestro digital de tu cuerpo”

Cuando Daisy Dixon, profesora de la Universidad de Cardiff, en Gales, supo que imágenes suyas sexualizadas en lencería o embarazada generadas por Grox, la herramienta de Inteligencia Artificial (IA) de X, circulaban en la red social, se sintió “violentada en su intimidad”.

“Es un secuestro digital de tu cuerpo”, una “agresión” de una “misoginia extrema”, dijo en diálogo con Agence France-Presse (AFP) la docente de filosofía, de 36 años.

Activa en X e Instagram, donde realiza entre otras cosas labores de divulgación filosófica, Dixon descubrió en diciembre imágenes suyas generadas artificialmente en X.

Algunos usuarios habían utilizado Grok para manipularlas a partir de unas pocas fotos que ella había publicado en las que aparecía con ropa deportiva.

Las primeras imágenes creadas por la herramienta de IA de la plataforma de Elon Musk eran bastante inofensivas. La manipulación consistía en un cambio de peinado o de maquillaje, según relató Dixon. Pero luego “realmente degeneraron”.

En particular, algunos usuarios le pidieron a Grok que la mostrara en tanga, que le ensanchara las caderas o que le hiciera adoptar poses “más vulgares”. Y Grok obedecía y “generaba la imagen”, indicó la profesora.

Dixon podía ver tanto las solicitudes como las imágenes creadas aparecer en su cuenta de X -donde tiene unos 34.000 seguidores-, ya que Grok las publica allí automáticamente.

Un usuario incluso llegó a pedir a Grok que la representara en una “fábrica de violaciones”, contó, aunque en ese caso extremo la herramienta no generó la imagen solicitada.

“Me sentí realmente violentada en mi intimidad, y también en peligro”, subrayó Dixon, quien agregó que sintió la necesidad de esconderse, aunque más tarde “la ira reemplazó al miedo”.

Dixon contó que se sintió particularmente impactada al ver que Grok había satisfecho la petición de un usuario de representarla embarazada, en bikini, con la alianza en el dedo. Cuando quiso denunciar esa imagen en X, no encontró en la plataforma ningún medio para hacerlo.

Según un estudio publicado el jueves por el Center for Countering Digital Hate, una ONG que denuncia con frecuencia las prácticas de X, Grok generó alrededor de tres millones de imágenes sexualizadas de mujeres y niños en un periodo de solo once días, a un promedio de 190 imágenes por minuto.

En un informe publicado este mes, Paul Bouchaud, investigador de la ONG parisina AI Forensics, señala también que, de 20.000 imágenes generadas por Grok, más de la mitad mostraban a personas “poco vestidas”, casi todas mujeres.

Ante la indignación provocada por la proliferación de este tipo de imágenes, algunos países anunciaron este mes un bloqueo total de Grok. Reino Unido endureció su legislación frente a este tipo de comportamientos, penalizando tanto la creación como la solicitud de imágenes íntimas no consentidas.

La plataforma X dio marcha atrás y en enero anunció una limitación de su herramienta de IA en los países donde la creación de este tipo de imágenes es ilegal, aunque todavía se desconoce exactamente en qué lugares está vigente dicha restricción.

Dixon afirmó estar “en general satisfecha con los progresos realizados”, pero consideró que “esto nunca debería haber ocurrido”. Por su parte, Bouchaud subrayó que, sin embargo, Grok también dispone de un sitio web y de una aplicación capaces de generar imágenes de desnudos, con una opción para compartirlas.