Meta anunció que los padres podrán bloquear o limitar los chats de adolescentes con personajes de IA en Instagram, como parte de nuevas medidas de seguridad digital juvenil.
Instagram implementará a partir de 2025 nuevas funciones de seguridad para adolescentes, que permitirán a los padres bloquear o limitar los chats con personajes de inteligencia artificial (IA) dentro de la aplicación, informó Meta, su empresa matriz.
Estas medidas buscan reducir los riesgos asociados al uso emocional o inapropiado de chatbots, luego de que se reportaran casos de adolescentes que desarrollaron vínculos excesivos con inteligencias artificiales o fueron expuestos a conversaciones sensibles.
Los padres podrán desactivar el acceso a todos los personajes de IA o restringir el contacto con ciertos perfiles, y además tendrán acceso a información general sobre los temas que los adolescentes discutan con los bots.
Meta explicó en su comunicado que los nuevos controles parentales estarán disponibles a principios del próximo año, y que se enmarcan en un esfuerzo por fortalecer la seguridad digital y el bienestar emocional de los menores.
Preocupación por el impacto de la IA en adolescentes
En los últimos meses, Meta, OpenAI y otras empresas tecnológicas han sido objeto de críticas de padres y legisladores, quienes consideran insuficientas las medidas para proteger a los jóvenes frente a la IA.
Casos judiciales recientes —como los relacionados con Character.AI y el suicidio de un adolescente presuntamente vinculado al uso de ChatGPT— han intensificado el debate sobre el impacto psicológico de la inteligencia artificial.
Una investigación del Wall Street Journal reveló que algunos chatbots de Meta respondían a cuentas que se identificaban como menores con contenido sexual o inapropiado, lo que encendió las alarmas sobre la falta de filtros efectivos.
Meta aseguró que sus personajes de IA están programados para evitar conversaciones sobre autolesiones, suicidio o trastornos alimenticios, y que los adolescentes solo podrán interactuar con personajes enfocados en temas educativos o deportivos.
Medidas complementarias
La compañía también anunció ajustes en la configuración de cuentas para adolescentes, limitando la exposición a contenido con lenguaje fuerte o conductas potencialmente dañinas, bajo una clasificación tipo PG-13.
Por su parte, OpenAI introdujo en septiembre controles parentales similares en ChatGPT, que restringen temas gráficos, juegos de rol sexuales o violentos, y contenidos relacionados con ideales de belleza extremos.
Con estas acciones, la industria tecnológica busca responder a la creciente presión social y política para garantizar espacios digitales más seguros para los jóvenes.
