El regulador de privacidad de Irlanda abrió una investigación a gran escala contra X por imágenes sexualizadas generadas con Grok, mientras Reino Unido y Francia también intensifican el escrutinio sobre la plataforma.
El organismo encargado de la protección de datos en Irlanda, principal autoridad supervisora de la Unión Europea en materia de privacidad para la red social X, anunció el inicio de una investigación “a gran escala” sobre la plataforma propiedad de Elon Musk. La medida surge tras reportes sobre la generación y difusión de imágenes sexualizadas creadas mediante inteligencia artificial a través del chatbot Grok, integrado directamente en la red social.
La Comisión de Protección de Datos de Irlanda (DPC) confirmó que el procedimiento busca determinar si X, registrada en Europa como X Internet Unlimited Company, cumplió con las obligaciones establecidas en el Reglamento General de Protección de Datos (GDPR), especialmente en lo relacionado con el tratamiento de datos personales utilizados para crear imágenes íntimas no consentidas, incluyendo casos en los que podrían haberse visto involucrados menores de edad.
Según explicó el comisionado adjunto Graham Doyle, la institución ya mantenía contacto con la empresa desde que aparecieron los primeros reportes en medios sobre la capacidad de los usuarios de inducir a Grok a generar imágenes sexualizadas de personas reales. La investigación evaluará si la plataforma respetó principios clave del GDPR, como la legalidad del procesamiento de datos, el diseño seguro por defecto y la realización de evaluaciones de impacto sobre privacidad antes de implementar nuevas funciones tecnológicas.
El caso se enmarca dentro de una creciente presión regulatoria sobre X y sobre el uso de inteligencia artificial generativa en redes sociales. La polémica se intensificó después de que miles de imágenes deepfake con contenido sexual, principalmente de mujeres y en algunos casos también de menores, circularan en línea tras ser creadas mediante el sistema Grok. Aunque la empresa anunció restricciones para limitar este tipo de contenido, distintos reguladores consideran que las medidas podrían no haber sido suficientes.
La investigación europea no es un caso aislado. En el Reino Unido, la Oficina del Comisionado de Información (ICO) abrió investigaciones formales sobre X y xAI —la empresa desarrolladora de Grok— para analizar cómo se procesaron datos personales y si existieron salvaguardas adecuadas que evitaran la creación de imágenes sexualizadas dañinas. El regulador británico indicó que evaluará las decisiones técnicas y legales aplicadas durante el desarrollo y despliegue del chatbot.
Paralelamente, la autoridad británica de seguridad digital Ofcom inició un proceso bajo la Ley de Seguridad Online para determinar si la plataforma tomó medidas suficientes para impedir la difusión de imágenes íntimas manipuladas y contenido sexualizado generado con inteligencia artificial. Aunque X anunció ajustes para frenar la creación de este material, la investigación continúa abierta.
Francia también elevó el tono regulatorio. A principios de febrero, autoridades judiciales realizaron allanamientos en las oficinas de X en París dentro de una investigación más amplia relacionada con Grok y posibles delitos vinculados a la difusión de material sexualizado y otras irregularidades digitales. La empresa negó las acusaciones y aseguró que las acciones legales carecen de fundamento.
Mientras tanto, la Comisión Europea mantiene una investigación separada para evaluar si la plataforma mitigó adecuadamente los riesgos derivados de la implementación de Grok en la región, especialmente en materia de seguridad digital y control del contenido generado por usuarios mediante IA.
El debate ha reavivado las preocupaciones sobre el impacto de la inteligencia artificial en la seguridad de los usuarios, particularmente de los jóvenes. Expertos y gobiernos han advertido que la facilidad con la que se pueden crear deepfakes sexuales plantea riesgos importantes en materia de privacidad, reputación y salud mental, además de desafíos legales sobre consentimiento y uso de imágenes reales.
En este contexto, el Reino Unido anunció recientemente planes para endurecer las reglas aplicables a chatbots de inteligencia artificial, incluyendo sistemas como Grok, ChatGPT y Gemini, con el objetivo de garantizar que cumplan normas estrictas destinadas a evitar la difusión de contenido ilegal o dañino.
Desde el punto de vista regulatorio, el caso podría convertirse en un precedente importante para el tratamiento de herramientas de inteligencia artificial integradas en redes sociales. Bajo el GDPR, las sanciones por incumplimiento pueden alcanzar hasta el 4% de los ingresos globales de una compañía, lo que incrementa la relevancia del proceso abierto por las autoridades europeas.
Por ahora, el organismo irlandés continuará recopilando información y evaluando si X cumplió con los principios básicos de protección de datos antes y durante el despliegue de Grok en territorio europeo. El resultado de esta investigación podría influir en futuras regulaciones sobre inteligencia artificial y marcar un nuevo estándar para plataformas que utilizan modelos generativos a gran escala dentro de servicios digitales masivos.
