Todos tenemos el pensamiento de que las plataformas digitales son herramientas neutrales: espacios para socializar, para expresarse, para opinar. Pero, en los últimos 10 años, estas mismas plataformas se han convertido en cuartos oscuros, donde se fabrican amenazas reales, planes de violencia o discursos de odio que se convierten en realidad.
Desde el caso de Buffalo hasta el reciente asesinato de Charlie Kirk, los chats privados, los servidores cerrados y los mensajes viralizados, dejan una pregunta con pocas respuestas, ¿qué tan evidente tiene que ser una alerta para que intervengan?
En mayo de 2022, Payton Gendron creó un servidor privado en Discord que usaba como diario y espacio para planear un ataque racista. Publicó mapas, describió su objetivo, compartió planes con usuarios invitados poco antes del tiroteo en un supermercado en Buffalo, Nueva York, que dejó 10 muertos. Discord lo cerró, pero ya era tarde.
Otro caso es el del adolescente en Georgia. El joven 14 años, Colt Gray, fue prohibido de Discord en 2023 por extremismo. Según la plataforma, su actividad violaba políticas contra el discurso de odio. Pero la suspensión vino después de reportes y solo cuando ya tenía un historial preocupante. La moderación preventiva no evitó una tragedia.
Facebook y amenazas explícitas. Hay registros de personas arrestadas por amenazas directas en Facebook, como una mujer de Indiana que fue acusada por amenazar de muerte al presidente Trump. También existe otro caso, el de Anthony Elonis, cuyos mensajes en Facebook fueron inicialmente juzgados como amenazas, pero finalmente un tribunal declaró que el convicto no tenía la intención criminal necesaria, lo que dificultó la posibilidad legal de sancionar amenazas online.
Y sí, muchas de estas plataformas tienen políticas que en papel se ven fuertes (eliminar servidores, prohibir cuentas, cooperar con la policía). Pero en la práctica, esas reglas muchas veces reaccionan después de que ocurre un ataque, nunca antes. ¿Por qué? Porque detectar una amenaza real en medio del ruido digital es caro, complejo, y políticamente riesgoso. Nadie quiere ser acusado de censura, sobre todo en este país.
También se dice que la ley (como la Sección 230) protege demasiado a las plataformas, y en muchos casos es cierto: limita qué tan responsables legalmente pueden ser por lo que los usuarios hacen. Eso crea una zona gris en la que lo que se podría evitar, no se evita, simplemente porque no se exige legal ni socialmente intervención temprana.
