Instagram usará IA para notificar a padres si sus hijos buscan contenido de autolesiones o suicidio

La empresa Meta reforzó las cuentas de adolescentes con nuevos controles parentales y funciones potenciadas con Inteligencia Artificial para notificar a los padres si se detectan búsquedas que insisten sobre temas sensibles, como las autolesiones. 

En un comunicado publicado en su página web, la empresa señaló que se ha desplegado recientemente la clasificación de contenido de Instagram para mayores de 13 años a nivel global, que introduce nuevos ajustes a las Cuentas de Adolescentes.

La nueva configuración por defecto para mayores de 13 años de Facebook está destinada a ocultar el contenido inapropiado para adolescentes en algunas de las secciones más importantes de la aplicación.

Se hace concretamente en la sección de noticias (Feed) y los 'Reels', al igual que se limita la capacidad de los adolescentes para interactúar con Perfiles, Páginas, Grupos y Eventos que publiquen principalmente contenido inapropiado para ellos.

Las restricciones se aplican de forma diferente según la aplicación, y, por ejemplo, en Messenger se limita la capacidad de ver enlaces a contenido inapropiado de Facebook, al igual que chatear con aquellas cuentas que suelen publicar contenido similar.

Esto se refuerza con sistemas para la detección de la edad. Meta ahora cuenta con funciones potenciadas por IA que identifican cuentas de menores y principalmente se basa en el análisis de contexto (como menciones de fiestas de cumpleaños). Esta tecnología se desplegará en Instagram Reels, Instagram Live y Facebook Groups.

También empleará el análisis visual, que se encarga de escanear fotos y vídeos para encontrar pistas sobre la edad del usuario. En este punto, Meta hace una distinción para no dar lugar a equívocos: no es una herramienta de reconocimiento facial, sino de un análisis visual de elementos como la altura del usuario o su estructura ósea.

Al combinar ambas tecnologías impulsadas por IA, la compañía asegura que puede aumentar "significativamente" el número de cuentas de menores de edad que identifican y eliminan.

Asimismo, Instagram ahora se encargará de notificar a los padres si identifican búsquedas repetidas en un corto periodo de tiempo relacionadas con la autolesión o el suicidio. Esta función está disponible en la Unión Europea.

Finalmente, Meta ofrece la gestión centralizada para los padres o tutores con Family Center, un espacio que centraliza la administración de la actividad de los hijos en Instagram, Meta Horizon, Facebook y Messenger.

Hay que acceder a familycenter.meta.com/supervision para activarla, y en los siguientes meses se actualizará con más novedades para ampliar la visión de la actividad de los adolescentes en las aplicaciones mencionadas.