El gobierno del Reino Unido instó este martes a X, la red social propiedad del empresario Elon Musk, a adoptar medidas urgentes para frenar la proliferación de imágenes falsas y sexualizadas de mujeres y niñas generadas mediante Grok, su asistente de inteligencia artificial (IA). La exigencia se produce tras una oleada de contenidos no consentidos que incluyen representaciones íntimas generadas digitalmente, que han circulado libremente en la plataforma y generado una respuesta global de autoridades y expertas en seguridad digital.

Liz Kendall, ministra de Tecnología del gobierno laborista de Keir Starmer, calificó lo observado de "absolutamente espantoso e inaceptable en una sociedad decente" y remarcó que nadie debería ser forzado a ver imágenes falsas ("deepfakes") íntimas suyas en internet. " No podemos, y no permitiremos, la proliferación de estas imágenes humillantes y degradantes, que afectan de manera desproporcionada a mujeres y niñas. X debe solucionar este problema de manera urgente", declaró Kendall en un comunicado oficial.

Ofcom, el organismo británico que regula la televisión, la radio, las telecomunicaciones y los servicios en línea, anunció que ha solicitado información a X y a xAI,la entidad detrás de Grok, sobre cómo están protegiendo a sus usuarios y no descartó iniciar una investigación formal bajo la Online Safety Act. Esa ley, en vigor en el Reino Unido, obliga a las plataformas a combatir la difusión de contenidos ilegales o dañinos y a retirarlos rápidamente; de no hacerlo, se exponen a multas de hasta 18 millones de libras o al 10% de su facturación global, el mayor de ambos montos.

El foco de la controversia son imágenes generadas por Grok que, mediante indicaciones de usuarios, alteran fotos o vídeos para producir versiones sexualizadas o con desnudez de personas, incluidas mujeres y menores de edad. Según informes de múltiples medios, usuarios de X demandan a la IA que "los vista con poca ropa o los desnude", y en algunos casos Grok respondió con resultados explícitos. Estas imágenes incluyen a supuestas menores con ropa mínima y han sido catalogadas como contenido sexualizado no consensuado, lo que en muchos países constituiría material de abuso sexual en la infancia si representara a personas reales.

Grok reconoció públicamente que existieron casos aislados en los que usuarios recibieron imágenes que mostraban a menores con poca ropa y que se trató de fallas en sus salvaguardas, que la compañía afirma estar "corrigiendo de manera urgente". Sin embargo, la respuesta automatizada de xAI a los medios ha sido escueta, limitada a declaraciones genéricas como "Legacy Media Lies" (mentiras de los medios), y la empresa ha insistido en que elimina contenido ilegal, suspende cuentas y colabora con autoridades cuando se detectan violaciones.

Además del Reino Unido, la Comisión Europea anunció que está revisando "muy seriamente" las denuncias sobre la herramienta, y autoridades de países como Francia, India, Malasia y Polonia han pedido explicaciones o iniciado acciones regulatorias. En Francia, la fiscalía amplió una investigación contra X para incluir el uso de Grok en la generación de pornografía con niños. En India, el ministerio de Tecnología envió una orden formal a X para que presente un informe detallado sobre las medidas adoptadas contra el contenido "obsceno" y sexualizado, con un plazo de 72 horas y posibles consecuencias legales si no se cumple.

Expertas en seguridad digital y derechos de las mujeres han denunciado que esta problemática no es un fallo técnico menor, sino una falla ética profunda en la moderación y en los sistemas de seguridad de IA. La generación de imágenes manipuladas de personas reales --sobre todo de mujeres y niñas-- plantea riesgos graves de abuso, daño psicológico y explotación, pues la difusión de deepfakes puede ser tan invasiva y humillante como la publicación de fotos íntimas sin consentimiento.

El caso también ha reavivado el debate sobre la necesidad de regulación más estricta de la inteligencia artificial y las plataformas digitales. Legisladores en el Reino Unido, la Unión Europea y otros países consideran que las leyes actuales deben reforzarse y adaptarse específicamente para cubrir tecnologías emergentes como IA generativa, con obligaciones claras para que los proveedores integren salvaguardas efectivas y mecanismos de supervisión independientes.

Desde la empresa X y su filial xAI, la respuesta oficial ha sido limitada, centrada en asegurar que se están tomando medidas y en responsabilizar a los usuarios que generan contenido ilegal. Sin embargo, gobiernos y reguladores sostienen que eso no es suficiente y que se requieren cambios estructurales en las políticas y en el diseño de la IA para prevenir el uso indebido de estas herramientas que, de otra manera, pueden facilitar violaciones graves a la privacidad, la dignidad y la seguridad de las personas.