El historiador Yuval Harari señala en su libro ‘Nexus’ que los algoritmos de redes sociales, optimizados para generar interacción, amplificaron discursos de odio que contribuyeron a la violencia contra la minoría rohingyá en Myanmar.
En su libro Nexus (Debate, 2024), el historiador y antropólogo Yuval Harari analiza cómo el diseño de los algoritmos de redes sociales, optimizados exclusivamente para generar interacción en las plataformas, impulsó la limpieza étnica en Myanmar contra la minoría musulmana rohingyá. Según Harari, los sistemas priorizaron y propagaron odio y teorías conspirativas, demostrando que los algoritmos no humanos pueden tener consecuencias letales.
Una campaña de represión militar iniciada en agosto de 2017 costó la vida a 10.000 personas rohingyas; más de 700.000 fueron desplazadas forzosamente de Myanmar hacia Bangladesh. Los algoritmos de plataformas no procuraron deliberadamente aquella experiencia, pero la fomentaron porque, sin evaluar veracidades ni consecuencias, gestionaron la forma más eficiente de atención y tiempo de pantalla de las audiencias. Por defecto, el contenido extremo, el miedo y la indignación son los medios más eficaces para captar la atención humana.
Harari destaca que no fue una conspiración humana dirigida, sino el propio diseño algorítmico el que seleccionó y amplificó discursos islamófobos para aumentar el tráfico en las redes que genera ganancias. Esto evidencia que la inteligencia artificial actúa por sí misma y puede escapar al control de sus creadores.
Los algoritmos crearon un ecosistema donde las noticias falsas y las mentiras superaron orgánicamente a la verdad. Esta manipulación ideológica jugó un rol directo en la violencia y el asesinato de decenas de miles de personas.
El texto también aborda el comportamiento de simpatizantes argentinos durante la final del Mundial de fútbol, quienes entonaron cánticos con agravios por condición sexual y nacionalidad. Además, se menciona la hipérbole nacionalista, ejemplificada por el historiador Alberto Garín, quien sostiene que los nacionalismos buscan inventar una identidad homogénea y colectiva que anula la responsabilidad individual. Garín argumenta que el poeta Federico García Lorca fue detenido y fusilado por personas con nombres y apellidos, marcadas por tramas locales de odio familiar y alineaciones políticas específicas en Granada en 1936.
En la Carta Encíclica Magnifica Humanitas, el Papa León XIV establece una relación simbólica y ética entre los algoritmos y la ‘confusión de las lenguas’ a través del ‘síndrome de Babel’. La confusión de las lenguas moderna ocurre cuando la comunicación se rompe porque se intenta sustituir la comunión por la ‘traducción’ algorítmica de la vida humana. Este intento de reducir al ‘otro’ a un medio o a un dato mediante el control técnico es descrito como una ‘tentación antigua y siempre nueva’, que hoy toma un rostro digital. Frente a esta ‘confusión’, el Papa propone el ‘camino de Nehemías’, que consiste en reconocer que, aunque exista una pluralidad de voces, es posible edificar juntos a través del diálogo y la escucha.