Archivo - FILED - 08 January 2026, United Kingdom, London: A view of the AI app Grok on the App Store on an iPhone, against a backdrop of search results displayed on the social media platform X (formerly Twitter) on a laptop. Photo: Yui Mok/PA Wire/dpa - Yui Mok/PA Wire/dpa - Archivo
MADRID, 17 Mar. (Portaltic/EP) -
Tres adolescentes han demandado a la compañía de inteligencia artificial (IA) xAI por permitir la creación de imágenes sexualizadas de ellas mismas y de otros menores a través de su asistente Grok, alegando que la tecnológica era consciente de que el 'chatbot' produciría material de abuso sexual infantil y no lo evitó.
La compañía liderada por Elon Musk ha enfrentado durante los últimos meses un escándalo de generación de imágenes sexualizadas de mujeres y menores que eran compartidas en la red social X y que se creaban a través de la herramienta de generación de imágenes de Grok, que accedía a la petición de algunos usuarios de desnudar a mujeres y niños, modificando sus imágenes para ponerles bikinis o que aparecieran en posiciones sexuales.
Concretamente, se pudo conocer que Grok compartió más de 3 millones de imágenes sexualizadas, 23.000 exclusivamente de menores, con la opción de generar imágenes en la plataforma de 'microblogging'.
Sin embargo, no se trata de un hecho exclusivo de los últimos meses, sino que este tipo de acciones ya se permitían anteriormente. Prueba de ello es que tres adolescentes de Tennessee (Estados Unidos), dos de ellas menores de edad, han interpuesto una demanda contra xAI Corp y xAI LLC ante el Tribunal de Distrito Norte de California en Estados Unidos por permitir la creación de imágenes sexualizadas de menores con Grok.
Así se trata del inicio de una demanda colectiva que detalla que un solo autor pudo utilizar Grok para recopilar imágenes y vídeos de más de 18 chicas, muchas de ellas del mismo colegio, y modificar su apariencia usando IA para desnudarlas. Posteriormente, las imágenes se distribuían a través de canales como Discord u otras plataformas como Telegram, a cambio de más archivos de contenido sexual de otros menores.
Así se deja ver en la demanda, interpuesta este lunes y recogida por The Washington Post, que exige una indemnización para las afectadas dado que la compañía de Musk era consciente de que su IA Grok permitía este tipo de prácticas ilegales y, sin embargo, no interpuso ninguna medida para evitarlo, como si hacen otras empresas de IA.
Según la demanda, una de las adolescentes recibió en diciembre del pasado año un enlace a un servidor de Discord con imágenes sexuales de menores, entre las que se encontraba ella misma y compañeras de su colegio. En ese momento, la policía abrió una investigación penal contra el autor de las imágenes generadas por IA, que posteriormente fue arrestado.
Ahora, la demanda busca ir contra la empresa que ofreció las herramientas para crear dichas imágenes sin interponer ningún filtro o impedimento, solicitando responsabilidades y una indemnización por el daño ocasionado.
Según la denuncia, xAI y Elon Musk vieron "una oportunidad para lucrarse con la depredación sexual de personas reales, incluidos niños". De hecho, la demanda asegura que se ha comprobado que las imágenes se generaron utilizando Grok, incluso con aplicaciones de terceros que se basan en este modelo de IA, y que xAI "no probó la seguridad de las características que desarrolló" para el asistente.
Se ha de tener en cuenta que, tras los recientes incidentes, Grok limitó su herramienta de generación de imágenes, restringiendo el acceso a los miembros de pago y, posteriormente, a todos los usuarios.
Este tipo de prácticas por parte de Grok ha ocasionado que autoridades a nivel global, como la Unión Europea condenen su uso para generar imágenes de menores y soliciten a X que conserve la documentación generada por Grok hasta finales de 2026 para una posible investigación.
Incluso, el propio Elon Musk compartió en una publicación que cualquier persona que utilizase Grok para crear contenido ilegal sufriría "las mismas consecuencias que si subiera contenido ilegal". De hecho, las políticas de xAI establecen que no se permite el uso de su servicio para representar imágenes de personas de manera pornográfica, la sexualización o la explotación de niños.