La red social Facebook, propiedad del conglomerado Meta apenas nombrado la semana pasada, informó que eliminará en “las próximas semanas” su sistema de reconocimiento facial para fotografías y videos, ante las preocupaciones de esta tecnología en la sociedad.
Meta informó del cambio a través de una entrada del blog corporativo firmado por el vicepresidente para Inteligencia Artificial, Jerome Pesenti: “Cada nueva tecnología trae consigo tanto beneficios como preocupaciones, y queremos encontrar el balance correcto. En el caso del reconocimiento facial, su rol a largo plazo en la sociedad necesita ser debatido abiertamente entre quienes serán más impactados”.
Aunque beneficiaba a algunos usuarios, como aquellos que tienen discapacidad visual, la red social enfrentó críticas por el impacto en los usuarios. Por ejemplo, el año pasado resolvió una disputa legal de larga duración sobre la forma en que escanea y etiqueta las fotos. El caso ha estado en curso desde 2015, y se acordó que la empresa pagaría 550 millones de dólares a un grupo de usuarios en Illinois que argumentaron que su herramienta de reconocimiento facial violaba las leyes de privacidad del estado.
Un estudio del gobierno estadounidense en 2019 además encontró que los algoritmos de reconocimiento facial eran mucho menos precisos para identificar rostros afroamericanos y asiáticos en comparación con rostros caucásicos.
Es una medida que Facebook toma mientras la empresa se enfrenta a un aluvión de críticas tras la publicación de Facebook Papers, una filtración de documentos y estudios internos a medios de comunicación selectos que revela cómo la red social no ayudó lo suficiente a combatir la desinformación de forma consciente, así como estuvo al tanto del impacto negativo que tiene el uso de la plataforma en jóvenes.
¿Por qué es importante? Ha habido una creciente preocupación sobre la ética de la tecnología de reconocimiento facial, con preguntas sobre la privacidad, los prejuicios raciales y la precisión.
“Hay muchas preocupaciones sobre el lugar del reconocimiento facial en la sociedad y los reguladores siguen en el proceso de establecer reglas claras para su uso. En medio de esta incertidumbre, creemos que limitar el uso del reconocimiento facial a un menor número de casos es lo apropiado”, reconoció el Pesenti en el comunicado.
¿Qué implica esta decisión para el usuario?
- Ya no reconocerá de forma automática si los rostros de las personas aparecen en fotografías o videos.
- Las personas ya no podrán activar el reconocimiento facial para sugerencias de etiquetas o ver una sugerencia de etiqueta con su nombre en fotos y videos en los que pueden aparecer. Aunque seguirán invitando a las personas a etiquetar publicaciones de forma manual.
- Este cambio también tendrá un impacto en el sistema de Texto Alternativo Automático (AAT), una tecnología diseñada para generar descripciones de imágenes para personas ciegas o con discapacidad visual. Actualmente, ATT identifica a personas en alrededor de 4% de las fotos. Después del cambio, ATT podrá seguir identificando cuántas personas hay en una foto, pero ya no intentará detectar quién es cada quién usando reconocimiento facial.
- Si activaste el reconocimiento facial, eliminaremos la plantilla usada para identificarte. Si tienes desactivada esta función, no hay plantilla que eliminar y no habrá algún cambio.