Facebook dio a conocer una iniciativa para abordar los "memes de odio" utilizando inteligencia artificial (IA) respaldada por colaboración externa (crowdsourcing) para identificar tales publicaciones.
La red social líder explicó que ya ha creado una base de datos de 10 mil memes, imágenes a veces con texto para transmitir un mensaje específico que se presume humorístico, como parte de la intensificación de sus acciones contra el discurso de odio.
Facebook dijo que está dando a los investigadores acceso a esa base de datos como parte de un "desafío de odio meme" para desarrollar algoritmos mejorados para detectar mensajes visuales con contenido odioso, con un premio de $ 100 mil.
"Estos esfuerzos estimularán a la comunidad de investigación de inteligencia artificial en general a probar nuevos métodos, comparar su trabajo y cotejar sus resultados para acelerar el trabajo en la detección del discurso de odio multimodal", dijo Facebook.
La red se basa en gran medida en la inteligencia artificial para filtrar contenido cuestionable durante la pandemia de coronavirus, lo que ha reducido su capacidad de restricción humana como resultado de los confinamientos.
Eliminado por "discurso de odio"
El informe trimestral de transparencia de la compañía detalla que Facebook eliminó unos 9.6 millones de publicaciones por violar las políticas de "discurso de odio" en los primeros tres meses de este año, incluyendo 4.7 millones de contenido "vinculado al odio organizado".
Guy Rosen, vicepresidente de integridad de Facebook, dijo que con inteligencia artificial: "Podemos encontrar más contenido y ahora podemos detectar casi el 90% del contenido que eliminamos antes de que alguien nos lo informe".
Facebook prometió hace un año "interrumpir" el comportamiento organizado de odio después de los ataques mortales contra una mezquita de Nueva Zelanda, lo que provocó un "llamado a la acción" por parte de los gobiernos para frenar la propagación del extremismo en línea.
Los sistemas automatizados y la inteligencia artificial pueden ser útiles, dijo Facebook, para detectar contenido extremista en varios idiomas y analizar texto incrustado en imágenes y videos para comprender su contexto completo.
Facebook confía en sistemas habilitados para múltiples modalidades que utilizan grandes cantidades de datos sin etiquetar.
Mike Schroepfer, director de tecnología de Facebook, dijo a los periodistas en una conferencia telefónica que una de las técnicas que ayudó a este esfuerzo fue un sistema de identificación de imágenes "casi idénticas", con el cual es posible monitorear la publicación de imágenes y videos. malicioso con pequeños cambios para evadir la detección.
