Un estudio de White Circle expone que los filtros de moderación de OpenAI no frenan 13% de los intentos de generar contenido sexual explícito no autorizado con modelos de imagen.
Una vulnerabilidad en los sistemas de inteligencia artificial de OpenAI reavivó las alarmas en el sector tecnológico. Un estudio reveló que los filtros de moderación de la compañía no logran detener el 13% de los intentos de generación de contenido sexual explícito no autorizado, lo que evidencia deficiencias en la protección contra abusos digitales.
El hallazgo fue difundido por la firma de ciberseguridad White Circle, dirigida por el especialista Denis Shilov. De acuerdo con la investigación, ciberdelincuentes o usuarios malintencionados podrían aprovechar brechas estructurales en las llamadas a la API pública de la plataforma y en herramientas abiertas para burlar los límites éticos del sistema.
Los investigadores advirtieron que la principal preocupación es la facilidad con la que pueden vulnerarse estas barreras. Mediante un método de prueba automatizado denominado RISE, demostraron que no se requieren recursos avanzados ni infraestructura de última generación para comprometer la seguridad de sistemas de vanguardia. Al utilizar modelos de código abierto para automatizar y ajustar los ataques, los vacíos de moderación quedan expuestos de forma recurrente, lo que deja vulnerables herramientas de uso masivo como DALL-E 3 y GPT-Image-2.
Los especialistas señalan que el verdadero riesgo está en la falta de un blindaje efectivo frente al uso malintencionado de la inteligencia artificial. Que los filtros de OpenAI puedan evadirse evidencia la fragilidad de sus protocolos actuales y plantea dudas sobre la responsabilidad de las grandes corporaciones para evitar que sus desarrollos se utilicen para vulnerar la intimidad y la integridad de las personas en internet.
White Circle afirmó que compartió sus resultados con algunos laboratorios de inteligencia artificial por medio de contactos en común. OpenAI no respondió a la solicitud de comentarios de Ars Technica sobre las vulnerabilidades identificadas. La firma prevé divulgar el estudio completo durante NeurIPS 2026, una conferencia académica sobre inteligencia artificial programada para noviembre, y publicará el código del sistema de ataque para que los fabricantes puedan reproducir las pruebas y reforzar sus mecanismos de seguridad.
“Los laboratorios que construyen estos sistemas son los mismos que evalúan su propia seguridad, publican sus propios resultados y fijan sus propios estándares”, sostuvo Shilov. Para el ingeniero, los gobiernos deberían exigir evaluaciones independientes de terceros.
En este contexto, cobra relevancia la prevención de la sextorsión, que ocurre cuando alguien amenaza con divulgar imágenes o videos íntimos, reales o generados con inteligencia artificial, para exigir dinero, más material sexual u otras acciones. Meta recomienda que madres, padres y cuidadores hablen del tema con adolescentes antes de que ocurra un episodio, para que sepan que pueden pedir ayuda sin temor a castigos o reproches. Entre las señales de alerta figuran los pedidos de imágenes sexuales, los perfiles que buscan establecer un vínculo afectivo con rapidez y las ofertas que parecen demasiado favorables para ser ciertas.
Ante una amenaza, la plataforma aconseja denunciar los mensajes y el contenido compartido para solicitar su retiro. También sugiere acudir a Take It Down, un servicio gratuito del Centro Nacional para Menores Desaparecidos y Explotados (NCMEC) que busca impedir la difusión de imágenes íntimas de menores sin que estos deban enviarlas a terceros. La compañía informó además que sus controles de desnudez en los mensajes directos están activados de forma predeterminada para las cuentas de adolescentes.
