En la actualidad, los usuarios de Facebook o las víctimas de esta práctica deben denunciar las imágenes para que los contralores de contenido las revisen. La empresa ha sugerido que los usuarios envíen sus imágenes íntimas a Facebook para que la red pueda identificar las publicaciones no autorizadas.
Pero muchos usuarios rechazan la idea de enviar fotos o videos reveladores a la red social, sobre todo dada su historia de fallas en materia de privacidad.
La nueva herramienta de aprendizaje de la empresa está diseñada para hallar y señalar automáticamente las imágenes y enviarlas a seres humanos para su revisión.
Esta y otras redes sociales han tenido problemas para vigilar y contener las publicaciones impropias de los usuarios, sean amenazas violentas, teorías conspirativas o imágenes íntimas.
Lea: Facebook revela la causa de su caída mundial
Facebook ha recibido duras críticas por permitir que mensajes ofensivos permanezcan demasiado tiempo, por no borrar publicaciones que no cumplen con sus normas y a veces por borrar imágenes de valor artístico o histórico. La empresa espera que su nueva tecnología le ayude a descubrir las publicaciones indebidas.
La tecnología, que se usará en Facebook e Instagram, fue entrenada con fotos que Facebook confirmó previamente eran pornografía vengativa. Está entrenada para reconocer un “casi desnudo” _por ejemplo, en ropa interior_ junto con texto despectivo o infamante que indique que alguien publicó la foto para humillar a otra persona.
Al menos 42 estados han sancionado leyes contra la pornografía vengativa, la publicación no consensual de fotos o video. La ley de Nueva York, sancionada en febrero, permite a las víctimas demandar a los autores y declara que es delito.
