El algoritmo no solo nos acerca a ideas afines, sino también a personas que piensan como nosotros. De este modo, la identidad personal comienza a fusionarse con identidades grupales cada vez más definidas.
Cuando las plataformas nos agrupan según patrones de consumo, opinión o sensibilidad ideológica, se produce un fenómeno de tribalización digital en la que el grupo refuerza la creencia, la creencia refuerza la identidad, la identidad refuerza la exclusión del “otro”.
Afinidad social y tribalización digital
El segundo componente de los algoritmos de recomendación —la recomendación basada en grupos similares— introduce una dimensión social decisiva.
El algoritmo no solo nos acerca a ideas afines, sino también a personas que piensan como nosotros. De este modo, la identidad personal comienza a fusionarse con identidades grupales cada vez más definidas.
Cuando las plataformas nos agrupan según patrones de consumo, opinión o sensibilidad ideológica, se produce un fenómeno de tribalización digital en la que el grupo refuerza la creencia, la creencia refuerza la identidad, la identidad refuerza la exclusión del “otro”.
En este punto, la diferencia deja de ser una oportunidad de aprendizaje y pasa a ser percibida como amenaza.
Las redes también facilitan la comunicación entre estas personas que aún cuando estén en los polos opuestos del planeta pueden establecer contactos, generar comunidades on line y además organizarse para llevar adelante proyectos basados en mensajes de odio, supremacía racial, argumentos “terraplanistas” o cualquier otra locura que podamos ser capaces de imaginar.
Aún conceptos fundamentales y avalados por evidencias científicas, como por ejemplo que la Tierra es redonda, son puestos en duda no por uno o dos individuos sino por cientos de miles de ellos que ahora se pueden conocer y organizar eventos internacionales gracias a la ciega e implacable confirmación de sesgo por grupos de similitud.
Antes de la aparición de las redes la locura quedaba confinada “al loco del pueblo” pero ahora esa locura puede sumar a millones en el planeta con algo tan simple como el acceso a las redes masivas de comunicación global.
Radicalización como consecuencia emergente
Pero debemos ser cuidadosos en algo. La radicalización rara vez comienza con posturas extremas. Comienza, más bien, con pequeños refuerzos sucesivos, cada uno ligeramente más intenso que el anterior.
Los sistemas de recomendación, al priorizar aquello que genera mayor respuesta emocional, tienden a promover contenidos más: indignantes, polarizantes, simplificadores, emocionalmente cargados
Este proceso que estamos analizando no es necesariamente un diseño algorítmico basado en una mala intención premeditada, sino que es la consecuencia de una lógica que prioriza la captación de likes y la permanencia del usuario en el consumo de la red.
Esto monetiza más y da más dividendos a las empresas y a los generadores de contenidos de este tipo que además también son más estimulados a realizar este tipo de “producto fundamentalista” para incrementar su número de suscriptores y tener así más ganancias económicas por cada view. que incrementan y por cada suscripción que suman. Un círculo vicioso perfecto que nos lleva claramente a la segmentación social.
Al premiar la atención sostenida, terminan favoreciendo narrativas que reducen la complejidad del mundo a oposiciones binarias: nosotros/ellos, correcto/incorrecto, bien/mal.
Una mente menos abierta en un mundo aparentemente más amplio
Paradójicamente, nunca en la historia el ser humano tuvo acceso a tanta información diversa, y nunca fue tan fácil habitar un universo mental tan estrecho. La apertura tecnológica no garantiza apertura cognitiva.
De hecho, cuando la información es filtrada constantemente para alinearse con nuestras preferencias, el resultado es una mente cada vez menos expuesta a lo inesperado, lo incómodo y lo transformador.
Pensar de manera más abierta requiere fricción. Requiere desacuerdo, ambigüedad, lentitud y confrontación con lo distinto.
Los sistemas de recomendación, al eliminar gran parte de esa fricción, facilitan el consumo, pero debilitan la reflexión.
La segmentación algorítmica no es neutral. Al reforzar preferencias previas y agrupar individuos por afinidad, contribuye a la consolidación de burbujas cognitivas y a la radicalización progresiva del pensamiento.
No porque nos convenza de ideas nuevas, sino porque nos protege excesivamente de las ideas que podrían transformarnos.
En lugar de expandir la mente, la personalización extrema corre el riesgo de convertir la experiencia digital en un circuito cerrado: cómodo, coherente pero peligrosamente estrecho.
El desafío contemporáneo no es sólo técnico, sino profundamente humano: cómo recuperar la fricción cognitiva necesaria para pensar en un mundo diseñado para confirmarnos.
Debería ser un tema prioritario que estas grandes empresas tecnológicas como Facebook, Tic Tok, You Tube, etc, se pongan a pensar seriamente que con sus diseños algorítmicos basados en la confirmación de sesgo individual y grupal, lo que estamos generando es una sociedad que va camino a procesos de segmentación y radicalización que estimulan la aparición de grupos extremistas que atacan directamente los procesos de integración de diversidad de ideas en el colectivo social.
El rediseño de estas “políticas algorítmicas” es totalmente factible. Ellas pueden ser desarrolladas para hacerlas más integradoras y con un plus más de creatividad hasta podrían aumentan los niveles de audiencia no a través de la confirmación del sesgo sino más bien a través de otro atributo humano que es la “curiosidad innata basada en la supervivencia” que nos lleva a la predisposición de querer conocer otros sesgos sin denostarlos o repudiarlos desde una rigidez inicial.
Con ese diseño más inteligente y empático de los algoritmos de “recomendaciones” las redes sociales podrían contribuir al desarrollo de un mundo más tolerante y armónico en lugar de alimentar al surgimiento de bravucones iluminados y dictatoriales que vemos surgir cada vez con más frecuencia en los distintos lugares del planeta en los distintos planos de las ideologías humanas.
Los gobiernos del mundo debieran prestar especial atención a esta problemática porque las democracias, cuyo mandato esencial es la representación de todas las voces, se verán seriamente afectadas por el crecimiento cada vez más veloz de este tipo de “mentes rígidas” que no toleran la opinión disonante con sus ideas.
En definitiva, si no prestamos atención a esta problemática, las redes sociales en lugar de integrarnos y mostrarnos la importancia de ser tolerantes con los que no piensan como nosotros, convertirán al planeta en un conjunto de tribus radicalizadas que van a la guerra unas contra otras a pesar de ser la civilización “más avanzada” de la historia.
Si no tomamos medidas URGENTES, la gran paradoja será que la “tecnología más avanzada de la IA” nos llevará hacia la «Era de las Cavernas” en las que tribus contra tribus se aniquilan sin piedad alguna porque las “mentes rígidas” entre otras cosas, destruyen la empatía.