Redacción: Regina De Quevedo
Instagram anunció nuevas funciones de seguridad para proteger a los adolescentes frente a los posibles riesgos de chatear con inteligencia artificial.
Debido a las recientes preocupaciones de los padres sobre el impacto emocional y psicológico que han causado estas herramientas en sus hijos, a partir del siguiente año, los padres podrán controlar o desactivar el acceso de sus hijos a los personajes de inteligencia artificial dentro de la plataforma, marcando un cambio importante en las políticas de interacción y uso de tecnología con los menores.
Tanto Meta como otras empresas tecnológicas han enfrentado una fuerte presión social y legal para garantizar plataformas digitales más seguras. Recientemente, se han presentado casos de aislamiento, angustia emocional y autolesión debido al uso excesivo de chatbots, lo que ha llevado a la industria a reconsiderar su responsabilidad en el bienestar de usuarios jóvenes.
Meta les permitirá a los padres desactivar por completo los chats con IA o bloquear personajes específicos, logrando un nivel de supervisión hacia ellos más detallado. Esta herramienta ofrecerá visibilidad sobre los temas que los jóvenes platican con los personajes virtuales; esta medida busca que exista un equilibrio entre la privacidad y la protección. Esta implementación comenzará a inicios del próximo año y será parte de una estrategia más amplia para mejorar los controles parentales. La empresa ha admitido que la interacción de los adolescentes con la inteligencia artificial debe manejarse con cuidado, especialmente cuando los jóvenes se apoyan en estos chats como fuente de compañía o apoyo emocional.
La iniciativa de Meta surge debido a la preocupación por la dependencia emocional hacia los chatbots, que está respaldada en diversos estudios y reportes. Que los adolescentes formen lazos emocionales con personajes digitales ha mostrado el problema que existe sobre la falta de regulación en el uso de la IA conversacional. Este avance marcará una oportunidad para fomentar el uso ético y responsable de la tecnología, reforzando el acompañamiento familiar en entornos digitales y priorizando una cultura de paz mental.
Durante los últimos años, los chats con IA han generado una fuente de controversia gracias a su influencia en la manera en que se comportan emocionalmente los jóvenes. Informes han revelado que el aislamiento y la angustia pueden complicarse cuando los jóvenes reemplazan las relaciones humanas por interacciones con chatbots. Demandas recientes contra OpenAI y Character.AI reflejan preocupación, ya que ambas plataformas han sido señaladas para influir en decisiones autodestructivas de menores, lo que ha creado un debate sobre los límites éticos del diseño conversacional.
Ante esta situación, Meta ha establecido filtros temáticos que impiden que sus personajes hablen sobre temas sensibles como la autolesión, el suicidio y los trastornos alimentarios, además de restringir las interacciones a áreas seguras como educación y deportes. Estos cambios buscan que la inteligencia artificial no reemplace la compañía humana, sino que funcione como una herramienta educativa y recreativa controlada.
Ante las críticas y demandas del sector, Meta dio una respuesta estratégica a los comentarios de padres, legisladores y expertos en salud mental, ya que, cada vez más voces requieren que las plataformas asuman su responsabilidad social ante los riesgos psicológicos que pueden vivir los menores en línea, Meta busca reconstruir la confianza en el entorno digital y demostrar su compromiso con el bienestar infantil.
La actualización de las “cuentas para adolescentes” de Instagram, bajo el estándar PG-13, refuerza esta estrategia de protección. En este caso, el contenido con lenguaje fuerte o temáticas que podrían ser dañinas no se mostrará ni promocionará a los menores. De igual manera, OpenAI anunció controles parentales para ChatGPT, reduciendo el acceso a temas sensibles como sexualidad, violencia o ideales de belleza extremos. Ambos movimientos muestran la conciencia de las empresas en la formación emocional de las nuevas generaciones, lo que representa un avance en materia de ética tecnológica, reforzando la idea de que la innovación debe ir de la mano con políticas preventivas y educación digital.
Más allá de la innovación, los entornos digitales deben priorizar la salud emocional, la privacidad y el acompañamiento familiar. A medida que la inteligencia artificial evoluciona, también debe hacerlo nuestra ética digital. El compromiso de las empresas no solo protegerá a los usuarios más jóvenes, sino que fortalecerá su compromiso, credibilidad y reputación en el mercado tecnológico global.
¿Te gustó nuestra nota? ¡Contáctanos y deja tu comentario! AQUÍ
Conoce nuestra red ANCOP Network AQUÍ
299 Total Count
