Meta, la empresa fundada por Mark Zuckerberg y matriz de la red social Instagram, en su esfuerzo por proteger a los adolescentes en su plataforma, está implementando nuevas herramientas basadas en inteligencia artificial.
Según informó la compañía en una publicación en su blog oficial, estas funciones buscan detectar si un menor de edad proporciona información falsa al crear su perfil, con el objetivo de garantizar que los usuarios jóvenes interactúen en un entorno seguro y adecuado para su edad.
Cómo Meta usa inteligencia artificial para mejorar la seguridad de los menores
La tecnología de inteligencia artificial de Meta analiza una serie de señales para determinar si un usuario es adolescente o adulto. Entre estas señales se incluyen la fecha de creación del perfil, patrones de interacción con contenido y otros datos relacionados con la actividad en la plataforma.
Además, la empresa ha desarrollado conjuntos de datos específicos para entrenar y evaluar el rendimiento de su modelo, utilizando publicaciones etiquetadas por revisores humanos, como mensajes relacionados con cumpleaños. Este enfoque permite a la compañía ajustar su sistema de clasificación y mejorar su precisión antes de implementarlo en diferentes países, teniendo en cuenta las variaciones culturales y de comportamiento.
Qué pasa cuando la IA de Meta detecta una cuenta de Instagram sospechosa
Una de las principales novedades de esta iniciativa es que, en ciertos casos, la IA de Meta podrá realizar configuraciones manuales realizadas por los usuarios y aplicar automáticamente restricciones propias de las cuentas de adolescentes.
Esto significa que si el sistema detecta que un perfil pertenece a un menor de edad, ajustará la configuración de la cuenta para alinearse con las medidas de seguridad diseñadas para este grupo etario.