Una investigación publicada el pasado noviembre en la revista Science confirmó lo que muchos observadores de la política digital sospechaban desde hace tiempo: los algoritmos de las plataformas no solo reflejan la hostilidad humana, sino que también pueden amplificarla.
Investigadores de la Universidad de Washington, la Universidad de Stanford y la Universidad Northeastern trabajaron con 1.256 usuarios de X durante la campaña presidencial estadounidense de 2024. El estudio concluyó que reducir la exposición de los participantes a publicaciones con actitudes antidemocráticas y animadversión partidista mejoró su percepción hacia el partido opositor en aproximadamente dos puntos en una escala de 100. Aunque el cambio parece modesto, los investigadores estimaron que una transformación similar suele tardar cerca de tres años en producirse de manera natural.
En otras palabras, el contenido seleccionado por los algoritmos puede condensar en pocos días procesos de endurecimiento político que normalmente toman años.
Este hallazgo plantea una interrogante que el estudio no buscaba responder: ¿de dónde proviene originalmente esa hostilidad?
Los algoritmos no inventaron el odio tribal. Lo amplificaron. El fuego ya existía.
Durante gran parte de la historia humana, la supervivencia dependió de la cohesión del grupo propio y de la desconfianza hacia los extraños. La división entre “nosotros” y “ellos” no es una patología moderna, sino una herencia evolutiva.
Como observó el filósofo francés Éric Sadin en L’Humanité augmentée, las plataformas digitales han transformado ese antiguo impulso en un sistema técnico. La indignación genera interacción; la interacción genera ingresos. Así, los instintos más primitivos del ser humano se han convertido en una fuente de ganancias dentro de la sociedad conectada.
UN FUEGO ANTIGUO CON NUEVA POTENCIA
En El malestar en la cultura (1930), Sigmund Freud sostuvo que la civilización exige a las personas contener sus impulsos más primitivos para poder convivir. Según su visión, el ser humano se encuentra entre dos fuerzas opuestas: Eros, asociado al amor y la construcción, y Tánatos, relacionado con la destrucción.
Cuando la energía destructiva no encuentra cauces adecuados a través del trabajo o del debate honesto, puede transformarse en hostilidad y odio irracional.
Carl Gustav Jung describió un fenómeno similar mediante el arquetipo de la sombra, aquella dimensión oculta de la psique donde se reprimen el miedo, el egoísmo y el resentimiento. Ignorar esa sombra no la elimina; simplemente espera una oportunidad para manifestarse.
En los entornos digitales, ese estímulo aparece de manera constante y a la velocidad de los algoritmos.
Como ha señalado el psicólogo social Jonathan Haidt, la intuición suele actuar antes que la razón. Cuando un grupo se siente amenazado, ya sea por un peligro real o simbólico, la capacidad de análisis racional tiende a disminuir. Cuando una discrepancia se convierte en una cuestión de valores sagrados, el adversario deja de ser alguien que piensa distinto y pasa a ser percibido como una amenaza.
La historia ofrece numerosos ejemplos de este fenómeno. Cada vez que el debate práctico se transforma en dogma, la razón pierde terreno. El Terror jacobino, el estalinismo y el nacionalsocialismo demostraron que la deshumanización comienza mucho antes de la violencia física.
Primero se despoja al adversario de su dignidad mediante el lenguaje. Se le condena o se le borra simbólicamente. Solo después es tratado como alguien ajeno a la comunidad humana legítima.
La filósofa Hannah Arendt identificó parte de este peligro en la incapacidad de reflexionar. El dogmatismo, ya sea ideológico, religioso o cultural, deja poco espacio para el pensamiento crítico que exige la convivencia democrática.
LENGUAJE, TECNOLOGÍA Y EL OTRO
Las plataformas digitales no han alterado el proceso mediante el cual las sociedades deshumanizan a quienes consideran adversarios. Lo que han hecho es acelerarlo. Lo que antes requería panfletos y campañas de agitación pública ahora puede producirse mediante sistemas automatizados de clasificación de contenidos diseñados para captar la atención.
Diversos pensadores posteriores han sostenido que el lenguaje no solo describe la realidad, sino que también contribuye a construirla. Desde esa perspectiva, el lenguaje de la polarización termina creando los monstruos que luego denuncia.
El principio de polaridad, presente en tradiciones filosóficas y espirituales desde la antigüedad, plantea que las fuerzas opuestas no son realidades destinadas a destruirse mutuamente, sino extremos de una misma realidad. Orden y caos, bajo esta mirada, pueden resultar creativos cuando se integran dentro de una unidad más amplia.
Esa visión no elimina el conflicto, pero sí modifica la forma de comprenderlo. La cuestión no es cómo erradicar los impulsos destructivos de la naturaleza humana, sino cómo impedir que dominen la vida pública.
LO QUE INDICAN LOS DATOS
El estudio publicado en Science ofrece una respuesta parcial a este problema. Los investigadores desarrollaron una herramienta para navegadores que reorganizaba las publicaciones en tiempo real. El sistema no eliminaba contenido ni requería la colaboración de X.
El experimento se llevó a cabo durante un período especialmente convulsionado de la campaña presidencial estadounidense de 2024, que incluyó la retirada del entonces presidente Joe Biden de la carrera electoral. En apenas diez días, los participantes mostraron cambios medibles en su percepción del partido contrario. El efecto se observó tanto entre liberales como entre conservadores.
El resultado es relevante porque permite comprender mejor el mecanismo. Si una determinada organización del contenido puede modificar actitudes políticas en cuestión de días, entonces el control sobre esos sistemas trasciende una simple decisión empresarial y se convierte en un asunto de interés público.
La discusión abre nuevas interrogantes: ¿quién debe controlar estos sistemas? ¿Las plataformas tecnológicas, los reguladores, los usuarios o investigadores independientes? Las democracias apenas comienzan a abordar estas preguntas y, en gran parte de América Latina, donde la confianza institucional ya es frágil, el debate resulta aún más urgente.
Sin embargo, el estudio no resuelve el problema de fondo. Los algoritmos explotan una vulnerabilidad humana que existe desde hace miles de años. Modificar la clasificación del contenido puede reducir los síntomas, pero no elimina la causa subyacente.
UNA CUESTIÓN CIVILIZATORIA
Los datos apuntan a la necesidad de reformas estructurales, pero la estructura por sí sola no basta.
La polarización extrema avanza cuando las sociedades rebajan sus estándares éticos y dejan de reconocer al adversario como un interlocutor legítimo. Las plataformas digitales no crearon esa tendencia, pero sí le han proporcionado una infraestructura de alcance y velocidad sin precedentes.
Quienes diseñan estos sistemas enfrentan una decisión profundamente cultural. Optar por mecanismos que contengan los impulsos tribales o por modelos que los conviertan en fuente de ganancias tendrá consecuencias que van más allá del debate público. También influirá en las condiciones que hacen posible la vida democrática.
Esa misma decisión, aunque en otro plano, también corresponde a ciudadanos, educadores y responsables de instituciones públicas.
La amenaza que habita en la naturaleza humana no es tecnológica. Por lo mismo, la respuesta tampoco puede serlo exclusivamente. La tarea principal no consiste en perfeccionar los algoritmos, sino en recuperar la capacidad moral de reconocer al adversario como un ser plenamente humano. (Red NP-UPI)
Carlos Cantero
Académico de la Universidad Internacional de La Rioja, España.
Autor del libro Sociedad Digital: Razón y Emoción.