En un escenario donde la Inteligencia Artificial (IA) se ha convertido en un espacio cotidiano de consulta e interacción para los adolescentes, las grandes plataformas tecnológicas enfrentan el desafío de reforzar sus protocolos de seguridad. En este contexto, Meta anunció el desarrollo de un nuevo sistema de alertas de supervisión parental diseñado para detectar patrones sensibles tanto en motores de búsqueda como en las conversaciones directas con su IA.
La iniciativa busca que los adultos responsables que mantengan activas las herramientas de supervisión reciban una notificación directa cuando el sistema identifique búsquedas repetidas o intentos de entablar diálogos relacionados con la autolesión o el suicidio.
El desafío de la IA en la salud mental adolescente
El avance de los modelos generativos de IA ha transformado la manera en que los jóvenes buscan orientación digital sobre sus problemas personales o situaciones cotidianas, las que según el ánimo o la salud mental del menor, puede llevar el requerimiento hacia un escenario en el que META ha decidido intervenir.
"Estamos lanzando estas alertas primero en las búsquedas de Instagram, pero sabemos que cada vez más adolescentes recurren a la IA en busca de apoyo", señalaron desde la compañía en un comunicado.
Ante esto, la firma tecnológica ha enfocado sus esfuerzos en entrenar sus algoritmos conversacionales para actuar con precaución y direccionar a los usuarios hacia líneas de ayuda profesionales.
"Aunque nuestra IA ya está entrenada para responder de manera segura a los adolescentes y ofrecer recursos adecuados sobre estos temas cuando corresponde, ahora estamos desarrollando alertas parentales similares para determinadas experiencias con IA", agregaron desde Meta.
Algoritmos de alerta temprana y control parental
El funcionamiento del sistema se basa en el procesamiento de patrones de interacción en un breve periodo de tiempo. Si los algoritmos de Meta detectan palabras asociadas a riesgo o insistencia en abordar temas de autolesión en la IA, el tutor del menor recibirá un aviso vía aplicación, correo o WhatsApp, junto con recursos elaborados por especialistas en seguridad infantil para abordar el diálogo familiar.
El objetivo central radica en que la Inteligencia Artificial no funcione como un espacio aislado, sino como una herramienta que active la protección del entorno cercano:
"Estas notificarán a los padres si un adolescente intenta entablar ciertos tipos de conversaciones relacionadas con el suicidio o las autolesiones con nuestra IA", puntualizaron desde la firma.
Con este avance, la Inteligencia Artificial suma una capa de responsabilidad ética en el ámbito de las plataformas digitales, abriendo un precedente en cómo la tecnología puede alinearse con la contención y el resguardo de las nuevas generaciones.
Ver Video
