Brujas Riot

Violencia digital: Grok, la IA de «X», bajo escrutinio por sexualizar a mujeres y niñas

Dalia González

Morelia, Michoacán.- La herramienta de inteligencia artificial impulsada por Elon Musk enfrenta denuncias globales por permitir la creación de imágenes sexualizadas sin consentimiento, en un contexto donde la violencia digital contra mujeres y niñas se normaliza bajo el amparo de la “innovación tecnológica”.

Grok, el chatbot de inteligencia artificial desarrollado por xAI y alojado en la red social X, propiedad de Elon Musk, enfrenta una creciente reacción negativa de gobiernos y organismos reguladores de todo el mundo tras un alarmante aumento en la generación de imágenes sexualizadas de mujeres y menores, muchas de ellas creadas sin consentimiento.

El martes, la principal autoridad tecnológica del Reino Unido exigió a X que adoptara medidas urgentes para frenar estos abusos, mientras que un legislador polaco citó el caso de Grok como uno de los motivos para impulsar nuevas leyes de seguridad digital.

A su vez, la Comisión Europea presentó una denuncia formal contra el chatbot, y funcionarios de Francia, India, Malasia y Brasil han condenado públicamente la plataforma y exigido investigaciones exhaustivas.

La alarma internacional pone de relieve el peligroso potencial de las aplicaciones de “desnudamiento” mediante inteligencia artificial, herramientas que permiten fabricar imágenes sexualmente explícitas y falsas, alimentando una nueva forma de violencia digital que afecta de manera desproporcionada a mujeres y niñas.

Tecnología sin ética, violencia con género

El problema se originó tras el lanzamiento, el año pasado, de Grok Imagine, un generador de imágenes y videos por IA que permite a los usuarios crear contenido a partir de simples indicaciones de texto.

La herramienta incluye un denominado “modo picante”, diseñado para producir contenido para adultos, una función que ha sido duramente cuestionada por la ausencia de salvaguardas efectivas.

La situación se agravó a finales del mes pasado, cuando Grok comenzó a responder masivamente a solicitudes para modificar imágenes de personas reales, muchas veces tomadas de publicaciones públicas, sin autorización.

Hasta hace pocos días, era posible generar imágenes de mujeres con instrucciones como “ponerla en un bikini transparente”.

Desde una perspectiva feminista, este fenómeno no puede entenderse como un “mal uso aislado”, sino como el reflejo de una violencia patriarcal estructural, donde mayoritariamente usuarios hombres utilizan la tecnología para cosificar, humillar y sexualizar cuerpos femeninos, amparados por el anonimato digital y la falta de consecuencias inmediatas.

El problema se amplifica porque Musk ha promovido a Grok como una alternativa “más atrevida” frente a otros chatbots con mayores restricciones éticas, y porque las imágenes generadas son públicamente visibles, lo que facilita su difusión, viralización y uso como herramienta de acoso.

Denuncias minimizadas y responsabilidad evadida

Pese a las reiteradas denuncias de mujeres usuarias de X, Elon Musk ha desestimado públicamente las preocupaciones, contribuyendo a un clima donde la violencia digital se normaliza y se reproduce.

Este desdén institucional no solo deslegitima las voces de las víctimas, sino que refuerza un entorno hostil que incentiva nuevos abusos.

En respuesta a una denuncia concreta vinculada a un menor, Grok reconoció haber “identificado lapsos en las salvaguardas” de X y afirmó estar trabajando para “arreglarlas urgentemente”.

También recordó que el material de abuso sexual infantil (CSAM) es ilegal y está prohibido, y aseguró que xAI está comprometida con evitar estos contenidos.

Te puede interesar: Priscilla: La historia real que nos muestra los peligros de ser fans de un artista

En otra respuesta, el propio chatbot advirtió que, bajo la legislación federal de Estados Unidos y otras normativas internacionales, las empresas pueden enfrentar sanciones penales o civiles si facilitan o no previenen el CSAM generado por IA tras ser alertadas, con consecuencias que varían según la jurisdicción y el grado de inacción.

Sin embargo, en un mensaje posterior y de tono más liviano, Grok minimizó la gravedad del problema al calificar como “casos aislados” las solicitudes de imágenes de menores en ropa mínima, afirmando que existen salvaguardas, aunque admitiendo que aún se están implementando mejoras.

La burla como respuesta

Lejos de asumir una postura responsable, Elon Musk reaccionó a las denuncias publicando una imagen suya en bikini, generada por Grok tras modificar una imagen ajena, y celebró el resultado con un escueto: “Perfecto”.

El gesto fue interpretado por activistas y organizaciones feministas como una burla hacia las víctimas y una señal preocupante de la falta de compromiso real con la seguridad y los derechos humanos en la plataforma.

Te puedes interesar: Cumplir 27 años sin carro, sin casa, sin marido y sin hijos

Violencia digital también es violencia real

Las denuncias de que suscriptores de X Premium utilizan Grok para generar imágenes no consensuadas —en su mayoría de mujeres— han encendido las alarmas a nivel global.

No se trata solo de fallas técnicas, sino de una decisión política y empresarial que prioriza la “libertad” de los agresores por encima del derecho de mujeres y niñas a su privacidad, dignidad y seguridad.

La violencia digital no es un daño colateral del progreso tecnológico: es una prolongación directa de las desigualdades de género existentes.

Mientras las plataformas sigan ignorando esta realidad y eludan su responsabilidad, la inteligencia artificial continuará siendo utilizada como una herramienta de control, acoso y dominación patriarcal.

En este contexto, diversos colectivos feministas han llamado a las mujeres a abandonar la red social como forma de protesta y denuncia frente a la normalización de estas violencias.

Fuentes :“Grok, el chatbot de X, enfrenta reacción global por imágenes sexualizadas generadas por IA” — AP News apnews.com

“Grok reconoce publicación en X de imágenes sexualizadas de menores mediante IA; ‘es ilegal y está prohibido’, admite” — El Universal