La final de la Copa Libertadores que jugarán Boca y River con dos partidos en la Ciudad de Buenos Aires empezó a provocar y a incentivar la violencia con mensajes agresivos que se multiplican en las redes. A modo de ejemplo basta con detenerse en esta publicación: "Ya arrancamos la final 1 a 0 abajo. Tenemos 3 semanas para darlo vuelta", tuiteó Emiliano, quien se define como un fanático xeneize. Lo hizo al compartir la triste noticia del crimen de un hincha de Boca en la 9 de Julio.

El hecho ocurrió en la madrugada del jueves. La víctima fue atacada por una patota cuando volvía de la casa de un amigo luego de mirar el partido de Boca y Palmeiras, y los investigadores sospechan que los agresores eran hinchas de River.

Este comentario se produce en momentos en que el Gobierno define con los clubes la posibilidad de permitir público visitante en los partidos que se disputarán el 10 y 24 de noviembre en la Ciudad de Buenos Aires. Luego que el presidente Mauricio Macri diera el punta pié inicial al solicitarle a la ministra de Seguridad que implemente los mecanismos necesarios para jugar con tribuna visitante.

Desde su cuenta @xenemize, Emiliano se autodefine como "militante peronista y enfermo bostero". Es oriundo de San Justo y tiene casi 7000 seguidores en Twitter. Tal es así que su posteo tuvo 68 comentarios, 56 retuit y 208 likes.

La investigación del New York Times fue clara en este aspecto: "Las redes sociales están envalentonando a las personas para que crucen la línea y envíen mensajes que tienen como intención provocar e incitar violencia. Claramente el problema se está expandiendo", dijo Jonathan Albright, director de investigaciones del Tow Center for Digital Journalism de la Universidad de Columbia, a NYT.

Con respecto al antisemitismo, las publicaciones en Instagram revelan una oscura y peligrosa realidad. Durante los últimos 10 años compañías como Facebook y Google expandieron su influencia en casi todos los rincones del planeta. Sin embargo, nunca previeron la consecuencias negativas que esa influencia iba a tener sobre la gente, informa el New York Times.

Al buscar la palabra "judíos" en esa red social, sus periodistas encontraron más de 11 mil publicaciones con la etiqueta #jewsdid911 (#judíoshicieron911) que decían que los judíos habían orquestado los ataques terroristas del 11 de septiembre en Estados Unidos. Otros mensajes tenían etiquetas con referencias nazi que incluían el número 88 y el saludo "Heil Hitler".
 
Las elecciones en Brasil también son una muestra de los efectos que tienen las redes sociales sobre la opinión pública. Algunos investigadores a atribuyen que el éxito de Jair Bolsonaro se dio por lo que ocurrió justamente en esos espacios virtuales. La plataforma de mensajes Whatsapp, que pertenece a Facebook, fue inundada con noticias e información falsa que favorecía al candidato de extrema derecha.

De manera similar, los militares en Myanmar utilizan los mensajes de Facebook para generar miedo en la población contra la minoría musulmana Rohingya. Y en India noticias falsas que se comparten por Whatsapp de niños que secuestran han generado que turbas enardecidas asesinen a más de una docena de personas este año.

"Las compañías de redes sociales han creado, permitido y habilitado que extremistas puedan mover sus mensajes de los margenes a las mayorías", dijo Jonathan A. Greenblatt, director ejecutivo de la Liga Anti Difamación, a NYT. Y agregó: "En el pasado, no podían encontrar una audiencia para envenenar. Ahora, con un click o una publicación o un tuit, ellos pueden esparcir sus ideas con una velocidad que nunca habíamos visto".

Luego de la denuncia de NYT, Facebook aseguró que investigará las etiquetas antisemitas que se publicaron en Instagram. Una portavoz de la compañía aseguró que ya están revisando los mensajes y eliminado el contenido que viole sus políticas.

Las compañías de redes sociales confiesan que identificar y borrar contenido relacionado con discursos de odio o noticias falsas es una tarea complicada. Facebook reveló que solo el 38 por ciento de los mensajes publicados con discursos de odio fue detectado por su sistema interno. En contraste, el 96 por ciento del publicaciones de desnudos y el 99.5 de contenido terrorista fue detectado por el sistema, informa NYT.

Entre abril y junio, en YouTube sus usuario reportaron cerca de 10 millones de videos que podían violar las normas de la plataforma. De ese número, un millón de videos fueron eliminados. Además, una herramienta de detección de videos que infringen normas bajó del sistema 6.8 millones de videos.

Algunos estudios prenden las alarmas sobre este fenómeno, como el publicado por Massachusetts Institute of Technology que revela que la información falsa tiene un 70 por ciento de mayor probabilidad de ser retuiteada.

YouTube, Facebook y Twitter anunciaron inversiones millonarias en el desarrollo de inteligencia artificial y de otras tecnologías que permitan eliminar contenido no deseados de sus plataformas. Además, Facebook dijo que tiene entre sus planes contratar a 10 mil personas para trabajar en asuntos relacionados a la seguridad de la red social, mientras que YouTube contratará al mismo número de personas pero que éstas se dedicarán exclusivamente a revisar videos.

NYT consultó a empleados de Silicon Valley quienes, a pesar de las enormes inversiones para contrarrestar los discursos de odio y las noticias falsas, cuestionan que las redes sociales tengan un efecto positivo en la sociedad.

Cuatro empleados de Twitter, por ejemplo, están preocupados porque la compañía se nota incapaz para tratar el lenguaje tóxico y los discursos odio que abundan en esa red social. La masacre en Pittsburgh hizo que los trabajadores de la compañía presionaran a sus directivos para encontrar una forma manejar de contrarrestar las publicaciones de los supremacistas blancos. 

El problema ahora se trasladó a Instagram, que fue ideada para que las personas compartieran fotos de sus mascotas, de sus viajes, de sus amigos o familia, sin embargo durante el último año han brotado publicaciones que van en contra del espíritu con el que fue creada la plataforma. Un ejemplo de ello son los mensajes antisemitas que desató la masacre en Pittsburgh.