Una vez más está en la boca de todos la gran empresa de tecnología y pionera en redes sociales, Facebook, esta vez por un reporte con más de 10 mil páginas que junta documentos internos de la compañía en los que se deja ver la negligencia por parte de la empresa a la hora de atender sus problemas de seguridad en la plataforma.
La ex-empleada de Facebook, Frances Haugen, quien fue gerente de productos de la empresa, ahora es la denunciante que proporcionó un reporte en el que se reseñan las dinámicas internas de Facebook a la hora de moderar la desinformación, el discurso de odio en su plataforma, y cómo los algoritmos de newsfeed han colaborado con la violencia en la red social, sin que los líderes tomen decisiones que minimicen los riesgos.
¿Qué son los Facebook Papers? Es un proyecto que junta a 17 organizaciones de noticias estadounidenses como AP, CNN y Wired, las cuales revisaron miles de documentos internos de Facebook, facilitados el 25 de octubre por Frances Haugen, quien fue empleada de la compañía y testificó ante el congreso las prácticas de la empresa.
¿Qué se encontró? Los documentos recopilan conversaciones de los chats internos de Facebook, en los que figuran quejas y preocupaciones de empleados y ex-empleados con respecto al camino que está siguiendo la empresa y la imposibilidad de aplicar cambios que mejoren el producto.
- Facebook ha destinado recursos en departamentos y empleados que desarrollan investigaciones para atacar su problemas de algoritmo para recomendar contenido de baja calidad que muchas veces está relacionado con desinformación o discurso de odio.
- A pesar de que se han desarrollado estas investigaciones y han surgido estrategias, los chats que se leen en los Facebook Papers revelan que la empresa ha puesto obstáculos para su implementación.
- Uno de los investigadores más respetados de Facebook en desinformación y política compartió las siguientes palabras en un chat interno de empleados: “Estamos exponiendo de manera consciente a los usuarios a riesgos de daños de integridad”.
- El departamento de Comunicaciones y Políticas Públicas es uno de los filtros clave para implementar cambios, sin embargo, los Facebook Papers denuncian que ponen trabas a estas mejoras cuando afecta a un actor político poderoso.
- Uno de los hallazgos más importantes de Facebook Papers es la falta de inversión en seguridad e integridad en países que no hablan inglés, que es dónde se encuentran la mayoría de los usuarios de la plataforma.
Los datos-Según declaraciones de voceros de Facebook, ha disminuído el discurso de odio en la plataforma en un 50%, sin embargo, los equipos de investigadores detrás de los Facebook Papers explican que es imposible verificar ese dato y que los documentos facilitados por Frances Haugen, señalan que la empresa pudo haber inflado ese número.
- Una publicación de Facebook señala que en los últimos 3 meses de 2020 el 97% de los post con discurso de odio fueron rastreados y bloqueados por Inteligencia Artificial. Sin embargo, los propios ingenieros de la empresa señalan que eso apenas representa del 3 - 5% del odio y 0.6% de incitación a la violencia en la plataforma.
- Uno de los documentos internos de septiembre 2020, señala que las páginas de “baja integridad” (usualmente relacionadas a desinformación o publicaciones hiper-partidistas) obtienen la mayoría de sus seguidores por recomendaciones del News Feed.
- El movimiento “Stop the Steal”, conocido por reforzar la teoría falsa de que las hubo fraude en las elecciones presidenciales de Estados Unidos 2020, logró el 30% de sus invitaciones de amistad solo con el 0.3 de sus miembros, cayendo en un comportamiento spam que puede ser evitado al limitar la cantidad de invitaciones que una cuenta puede mandar por día. El documento señala que de esta manera Facebook pudiera atacar a tiempo.
- El 77% de los casos en los que Facebook hizo cumplir su política contra el terrorismo en publicaciones de idioma árabe, fueron incorrectas. Dejando ver así la falta de revisión y recursos que se le brinda los países de idiomas distintos al inglés.
