Meta está probando una serie de nuevas herramientas de reconocimiento facial para detectar fraudes y apropiaciones de cuentas en Instagram y Facebook. Asegura que estas funciones fueron sometidas a un “robusto proceso de revisión” para garantizar la seguridad y privacidad de los usuarios.
El gran tecnología indica que parte de la actualización se centra en identificar y combatir estafas cebo de celebridades (cebo de celebridades). Explica que en este esquema “los estafadores intentan usar imágenes de figuras públicas para alentar a las personas a interactuar con anuncios que dirigen a sitios web fraudulento. El método viola nuestras políticas y es perjudicial para quienes utilizan nuestros productos”.
Una investigación de WIRED encontró que existe una red coordinada de páginas de Facebook que buscan estafar a personas a través de videos de Claudia Sheinbaum, Gael García, Eugenio Derbez o Hugo López-Gatell, alterados con inteligencia artificial.
La organización liderada por Mark Zuckerberg reconoce contenidos dañinos con algoritmos de aprendizaje automático. Pese a ello, admite que son insuficientes para diferenciar efectivamente entre casos de cebo de celebridades y materiales publicitarios legítimos. El uso de la tecnología biométrica promete solucionar el problema. La empresa informa que, si sus sistemas de seguridad detectan un anuncio sospechoso de fraude con una figura pública, utilizará tecnología de reconocimiento facial para verificar la autenticidad de la publicación. “Si confirmamos la estafa, el correo Será eliminado inmediatamente”, subraya.
La iniciativa en fase experimental ha comenzado a desplegarse en un “pequeño grupo de famosos”. Meta afirma que estas primeras pruebas demuestran que el enfoque aumenta “la rapidez y eficiencia con la que podemos actuar contra este tipo de delitos”. Promete que la función estará disponible para más usuarios en las próximas semanas.
El reconocimiento facial de Meta genera preocupación
La compañía también estudia el análisis facial como alternativa para eliminar cuentas apócrifas que intentan robar información personal y financiera de los suscriptores. Actualmente, este tipo de prácticas se identifican a través de informes de audiencia. Meta dice que en el futuro evaluará la aplicación de recursos de verificación fisonómica para comparar las fotos de cuentas sospechosas con las imágenes de perfil de Instagram y Facebook de personajes públicos.
Los usuarios de meta redes sociales también podrán restaurar sus cuentas comprometidas con su información biométrica. “Estamos probando un nuevo mecanismo para que las personas verifiquen su identidad y recuperen el acceso a sus cuentas bloqueadas. Los interesados pueden enviar un vídeo selfie y utilizaremos tecnología de reconocimiento facial para compararlo con las fotos del perfil al que intentan acceder. Esto es similar a los métodos utilizados para desbloquear un teléfono o acceder a otros aplicaciones”.
El anuncio de Meta genera algunas preocupaciones sobre el manejo de los datos biométricos de sus usuarios. La empresa ha aceptado que utiliza “publicaciones antiguas” alojadas en Instagram y Facebook como datos de entrenamiento para sus modelos de inteligencia artificial.
La firma de Menlo Park, California, garantiza que todos los datos generados en los procesos de lectura facial serán eliminados automáticamente y no serán utilizados para ningún otro fin. Agrega que las propuestas fueron sujetas a “nuestro sólido proceso de revisión de riesgos y privacidad. «Agregamos protecciones adicionales para que las personas sepan cómo operan y ofrecen controles». Destaca que ha discutido sus iniciativas con reguladores, legisladores y expertos.