Grok, la IA de X, reconoció fallas en sus sistemas de seguridad tras generar imágenes sexualizadas de menores, contenido ilegal que fue eliminado de la plataforma.
Grok, el chatbot de inteligencia artificial desarrollado por xAI y promovido por Elon Musk, reconoció que fallas en sus medidas de seguridad permitieron la generación de imágenes sexualizadas de menores que fueron publicadas en la red social X durante los últimos días.
De acuerdo con publicaciones realizadas por el propio Grok en respuesta a usuarios, el sistema creó imágenes de niños y adolescentes con ropa mínima ante solicitudes realizadas principalmente por hombres, lo que infringió su política de uso aceptable, la cual prohíbe de forma explícita la sexualización de menores. El chatbot aseguró que las imágenes ofensivas ya fueron eliminadas.
“Hemos identificado fallas en las salvaguardas y las estamos solucionando urgentemente”, publicó Grok, reiterando que el material de abuso sexual infantil es ilegal y está estrictamente prohibido.
El caso se da en un contexto de creciente preocupación por el uso de herramientas de inteligencia artificial capaces de generar imágenes realistas de menores. Organizaciones dedicadas a la protección infantil han advertido que, incluso cuando los modelos afirman contar con filtros de seguridad, estos pueden ser manipulados, facilitando la creación y difusión de contenido ilegal.
La Internet Watch Foundation informó que, durante el primer semestre de 2025, se registró un aumento de 400 por ciento en imágenes de abuso sexual infantil generadas con inteligencia artificial, lo que ha encendido alertas a nivel internacional.
xAI ha promovido a Grok como un modelo más permisivo que otras IA convencionales. En el verano pasado, la empresa introdujo el llamado “Modo Picante”, una función que permite la generación de desnudos parciales de adultos y contenido sexual sugerente. No obstante, el servicio mantiene la prohibición de pornografía con personas reales y cualquier contenido sexual relacionado con menores.
Hasta el momento, representantes de xAI no han emitido comentarios adicionales sobre el incidente.
El tema ha reavivado el debate sobre la responsabilidad de las empresas tecnológicas en la moderación de contenidos generados por inteligencia artificial. Compañías como OpenAI y Google mantienen políticas estrictas que prohíben cualquier material que sexualice a menores de 18 años, mientras que otras firmas aseguran filtrar este tipo de contenido desde las bases de datos utilizadas para entrenar sus modelos.
Especialistas y organizaciones civiles advierten que las imágenes generadas por IA relacionadas con abuso infantil se han vuelto cada vez más realistas y extremas, lo que representa un desafío urgente para la regulación, la seguridad digital y la protección de niñas, niños y adolescentes en entornos digitales.
