Análisis Ampliado – Facebook Papers (II): El poder de una denunciante - Las conclusiones claves de los documentos

Una decisión personal del CEO de Facebook, Mark Zuckerberg, lleva a una ofensiva contra la disidencia en Vietnam. Las medidas para restringir el contenido engañoso y de odio se levantan después de las elecciones presidenciales estadounidenses de 2020, ya que los grupos pro-Trump que disputan la legitimidad de las elecciones experimentan un crecimiento "meteórico". Una cuenta de prueba ficticia de Facebook en la India está inundada de propaganda violenta anti musulmana, que permanece visible durante semanas en la cuenta real de un asustado estudiante universitario musulmán en el norte de la India.

Una cantidad importante de documentos internos de Facebook revela que el gigante de las redes sociales ha rastreado de manera privada y meticulosa los problemas del mundo real que son incrementados por sus plataformas, ha ignorado las advertencias de sus empleados sobre los riesgos de sus decisiones de diseño y ha expuesto a las comunidades vulnerables de todo el mundo a un cóctel de contenidos peligrosos.

Revelados ante la Comisión Nacional de Valores de EEUU (SEC por sus siglas en inglés) por la denunciante Frances Haugen, los documentos de Facebook fueron presentados ante el Congreso en forma redactada por el asesor legal de Haugen. Las versiones redactadas fueron revisadas por un consorcio de organizaciones de noticias, incluido el Washington Post, que obtuvo documentos internos adicionales y realizó entrevistas con docenas de exempleados y empleados activos de Facebook.

Una combinación de presentaciones, estudios de investigación, hilos de discusión y memorandos de estrategia, los documentos denominados en inglés como Facebook Papers brindan una visión sin precedentes de cómo los ejecutivos del gigante de las redes sociales sopesan los beneficios entre la seguridad pública y sus propios intereses. Algunos de los documentos fueron publicados por primera vez por el Wall Street Journal.

Aquí están algunas de las conclusiones claves de la investigación del Post:

- Las declaraciones públicas de Zuckerberg a menudo contradicen las determinaciones de la investigación interna.

Haugen hace referencia a las declaraciones públicas de Zuckerberg al menos 20 veces en sus quejas ante la SEC, afirmando que el altísimo grado de control del CEO sobre Facebook lo obliga a asumir la responsabilidad final en torno a una larga lista de daños sociales causados por la incansable búsqueda de crecimiento de la empresa.

Los documentos también muestran que las declaraciones públicas de Zuckerberg a menudo contradicen los hallazgos internos de la compañía.

Por ejemplo, Zuckerberg testificó el año pasado ante el Congreso que la empresa elimina el 94 porciento del discurso de odio que encuentra. Pero en documentos internos, los investigadores estimaron que la empresa estaba eliminando menos del 5 porciento de todos los discursos de odio en Facebook.

La portavoz de Facebook, Dani Lever, negó que Zuckerberg "tome decisiones que causen daño" y desestimó los hallazgos, diciendo que están "basados en documentos seleccionados que están mal caracterizados y carecen de contexto".

- Facebook bajó la guardia antes de la insurrección del 6 de enero.

Durante el período previo a las elecciones presidenciales estadounidenses de 2020, el gigante de las redes sociales centró sus esfuerzos en detectar los contenidos que promovían la violencia, la desinformación y los discursos de odio. Pero después del 6 de noviembre, Facebook revocó muchas de las docenas de medidas destinadas a proteger a los usuarios estadounidenses. La prohibición del grupo principal “Stop the Steal” (“Paren el Robo”) no se aplicó a las docenas de grupos similares que aparecieron en lo que la empresa concluyó luego que era una campaña "coordinada", según muestran los documentos.

Para cuando Facebook intentó reimponer sus medidas de emergencia, ya era demasiado tarde: una turba pro-Trump asaltaba el Capitolio de Estados Unidos.

Los funcionarios de Facebook dijeron que habían planificado y se habían preparado exhaustivamente para las elecciones y sus consecuencias, anticipando la posibilidad de violencia poselectoral y siempre esperando que los desafíos duraran hasta la toma de posesión del presidente Biden el 20 de enero.

- Facebook no controla eficazmente el contenido en gran parte del mundo.

A pesar de todos los problemas de Facebook en América del Norte, sus problemas con el discurso de odio y la desinformación son dramáticamente peores en el mundo en desarrollo. Los documentos muestran que Facebook ha estudiado meticulosamente su impacto en el extranjero y es muy consciente de que una moderación más escasa en los países de habla no inglesa deja a la plataforma vulnerable al abuso por parte de actores malintencionados y regímenes autoritarios.

Según un resumen de 2020, la gran mayoría de sus esfuerzos contra la desinformación (84 porciento) se dirigieron hacia Estados Unidos, según muestran los documentos, y sólo el 16 porciento se destinó al "resto del mundo", incluidos India, Francia e Italia.

Aunque Facebook considera a India como una de sus principales prioridades, activando grandes equipos para que se involucren con grupos de la sociedad civil y protejan las elecciones, los documentos muestran que los usuarios indios experimentan Facebook sin las barreras críticas comunes en los países de habla inglesa.

Lever de Facebook dijo que la compañía ha hecho "progresos", con "equipos globales integrados por hablantes nativos que revisan los contenidos en más de 70 idiomas junto con expertos en temas humanitarios y de derechos humanos".

"Hemos contratado a más personas con experiencia en idiomas, países y temas", dijo Lever, y agregó que Facebook "también ha aumentado el número de miembros del equipo con experiencia laboral en Myanmar y Etiopía para incluir a extrabajadores de ayuda humanitaria, personal de respuesta a crisis y especialistas en políticas".

- Facebook elige retener la atención del usuario por encima de la seguridad del usuario.

Zuckerberg ha dicho que la compañía no diseña sus productos para persuadir a las personas a que dediquen más tiempo en su plataforma. Pero decenas de documentos sugieren lo contrario.

La empresa estudia exhaustivamente los posibles cambios en las políticas para ver sus efectos en la participación de los usuarios y otros factores clave para las ganancias corporativas. En medio de este impulso por retener la atención del usuario, Facebook abandonó o retrasó iniciativas para reducir la desinformación y la radicalización.

Un informe de 2019 que rastrea una cuenta ficticia configurada para representar a una madre conservadora en Carolina del Norte encontró que los algoritmos de recomendación de Facebook en tan sólo cinco días la llevaron a QAnon, una ideología extremista que el FBI ha considerado una amenaza de terrorismo doméstico. Aun así, Facebook permitió que QAnon operara en su sitio prácticamente sin control durante otros 13 meses.

"No tenemos ningún incentivo comercial o moral para hacer otra cosa que no sea brindarle al mayor número de personas una experiencia lo más positiva posible", dijo Lever de Facebook, agregando que la empresa está "constantemente tomando decisiones difíciles".

- - -

Elizabeth Dwoskin, Shibani Mahtani, Cat Zakrzewski, Craig Timberg, Will Oremus y Jeremy Merrill del Washington Post contribuyeron con este reportaje.

Información del Autor:

Cristiano Lima es reportero de negocios y autor del boletín Technology 202 del Washington Post, que se enfoca en la intersección de tecnología, política y políticas. Anteriormente se desempeñó como reportero de noticias de última hora y reportero de políticas tecnológicas para Politico.

Lea el artículo original aquí.