Los llamados Papeles de Facebook, una serie de exclusivas periodísticas que está publicando el diario estadounidense The Wall Street Journal (WSJ), revelan en base a informes internos de la compañía de Mark Zuckerberg que sus responsables son perfectamente conscientes de los daños que esta red social con 2.500 millones de usuarios están causando en la sociedad: ha contribuido a agudizar los problemas de autoestima entre los jóvenes, potencia la polarización de los discursos y el enfrentamiento social e, incluso, sabe que está siendo utilizada por cárteles de la droga o de trata de seres humanos para captar a sus víctimas... «En realidad no estamos haciendo lo que públicamente decimos que hacemos», admite uno de estos informes internos citados por el «WSJ».
Este nuevo escándalo en Facebook es el último capítulo del dramático despertar de aquel sueño del «solucionismo tecnológico» de los años noventa, cuando creíamos que internet supondría el advenimiento de una utópica democracia global. Ahora que todos portamos un móvil y que este se ha convertido en un dispositivo de marcaje, seguimiento e invasión profunda de nuestra privacidad, ahora que el feroz capitalismo se ha transformado en un «capitalismo de vigilancia» aún más feroz, pero de rostro jovial, estamos empezando a comprender hasta qué punto las nuevas tecnologías nos están alterando. Este es un repaso a algunas de las advertencias más notorias que al respecto han ido lanzando en los últimos años destacados expertos en esa transformación digital.
1- En bucle
Las redes sociales nos sumergen en lo que el ensayista estadounidense Eli Pariser bautizó ya en 2011 como el «filtro burbuja». El algoritmo que selecciona lo que vemos en Facebook, Instagram, Google o cualquier app de citas tiene un único objetivo: agradarnos y mostrarnos el objeto de nuestro deseos, sea una ideología, un producto manufacturado u otro cuerpo humano. En función del millar de señales que dejamos al navegar -de manera consentida o no- la máquina selecciona y jerarquiza todo lo que nos vemos. Así siempre estamos recibiendo una versión de nosotros mismos. Es un bucle infinito. El algoritmo, como dice Pariser, nos sirve una «autopropaganda invisible», nos «adoctrina con nuestras propias ideas». Vivimos en el «determinismo informativo»: lo que clicamos con anterioridad volverá siempre, un eterno retorno.
Metidos en ese filtro burbuja, no vemos qué hay fuera, qué opinan los que no opinan como nosotros. Y ese es, para Pariser, uno de los principios del fin del sistema democrático: «En última instancia, la democracia solo funciona si nosotros, en cuanto ciudadanos, somos capaces de pensar más allá de nuestro limitado interés personal. Pero para ello necesitamos tener una opinión generalizada del mundo en que vivimos juntos». Y no solo eso. Pariser compara esta digitalización de la vida con un espectáculo de magia: no solo te enseñan solo lo que el mago quiere que veas, es que no sabes que lo están haciendo. Nadie te ha dicho que estás frente a los viejos usos del prestidigitador. «En la burbuja de filtros no ves lo que no te interesa en absoluto. Ni siquiera eres consciente de que existen acontecimientos e ideas importantes que te estás perdiendo», dice Pariser. El filtro burbuja hace inoperante la democracia y, además, agosta nuestro pensamiento crítico. Nos sumerge, ahí va otro término, en el «síndrome del mundo amigable». El algoritmo solo nos permite ver la parte que más nos gusta de la realidad. «En general, las cuestiones áridas, complejas y pesadas -un montón de asuntos que de verdad importan- no pasarían el corte».
2- Homo distractus
El comportamiento humano que tratan de moldear las plataformas digitales a fin de mantenernos siempre dispuestos a caer en sus reclamos comerciales es el de una conciencia humana que vaga al albur de los estímulos que nos irán apareciendo y que están diseñados según conocidas técnicas de manipulación psicológica. Es el nacimiento del «Homo distractus», como lo bautizó Tim Wu en su libro Comerciantes de atención. Este profesor de Derecho en la Universidad de Columbia sostiene que el «robo de la atención» que desde finales del siglo XIX ya practicaban los medios de comunicación tradicionales, al objeto de financiarse con la publicidad, se ha agudizado tanto con la nueva tecnología digital que se asistimos a una verdadera succión de la privacidad para «recoger los frutos de nuestra atención profunda y continuada». Frutos cuantiosos. Los cinco gigantes tecnológicos (Microsoft, Apple, Facebook y Google) superan el billón de dólares de capitalización bursátil.
Es un asalto brutal a la intimidad, tanto que Wu considera que «recuperar la humanidad de hombres y mujeres que, frente a frente, hablan mirándose a los ojos» (y no a sus pantallas) es el principal bien a proteger en este siglo XXI. «El recurso humano más fundamental que requerirá la conservación y protección durante el próximo siglo seguramente será nuestra conciencia y espacio mental». De lo contrario, advierte, lo pagaremos caro. «¿Cuáles son los costes sociales de tener a todos los ciudadanos condicionados para que pasen gran parte de su vida, en vez de concentrados y abstraídos, con la conciencia fragmentada y sometidos a interrupciones constantes?». Hemos de recuperar nuestra atención. Porque «lo que está en juego es algo similar a nuestra forma de vivir la vida».
3- El robo del futuro
Soshana Zuboff publicó en 2020 en España La era del capitalismo de vigilancia, que para muchos es la primera teoría global sobre la nueva estructura económica del mundo digital. El capitalismo de vigilancia convierte al ser humano en una vaca digital que tiene dos motivos para seguir vivo. Uno: permitir que se le ordeñe la mayor cantidad posible de datos sobre su vida. Dos: convertirse en diana de los anuncios personalizados que reciba a partir de esos datos y comprar esos objetos, o ideas, que tan perfectamente se ajustan a los gustos explicitados. Los gigantes tecnológicos de capitalismo de vigilancia se rigen por el «imperativo extractivo». Es decir, si dejan de estimularnos para que pasemos la vida conectados y aportando datos, su negocio se desmorona. Porque su verdadero negocio va más allá de vendernos publicidad. Lo que ellos (Google, Facebook, etc.) venden a las marcas que los contratan es nuestro futuro, advierte Zuboff. Son «máquinas de certezas totales», «gigantes de la adivinación». No solo pueden predecir nuestro comportamientos a partir de los datos que voluntariamente les aportamos, también son capaces de condicionar nuestro comportamiento dándonos pequeños empujoncitos. Basta que te aparezca en el móvil una recomendación en el lugar y el momento oportuno para que el hombre-ratón corra a comprar esa sugerencia. «Las actividades del capitalismo de vigilancia representan un desafío elemental al derecho al tiempo futuro, que comprende la capacidad del individuo humano de imaginar, pretender, prometer y construir un futuro. Nos extraen nuestra voluntad de querer», sentencia esta catedrática emérita de la Harvard Business School.
4- El final de la ley
En su ensayo de novecientas páginas, Zuboff también hace hincapié, con ejemplos detallados, en la política de hechos consumados que ejecutan las multinacionales digitales, colándose por los resquicios de las leyes y aprovechándose de la impotencia de los estados para controlarlas hasta convertirse en la práctica en entidades impunes. Esto crea una «desfiguración institucional», unas asimetrías de poder y conocimiento «antitéticas con la democracia». No olviden que Mark Zuckerberg, fundador del imperio Facebook, es el soberano digital absoluto de una «nación de amigos» formada por casi 2.500 millones de personas (casi una tercera parte de la población mundial). Cualquier cambio de diseño que el emperador digital ordene en su plataforma puede revolucionar la sociedad. Recuerden lo que pasó cuando se implementó en 2009 el botón del «Me gusta»: todos empezamos a cotizar en un mercado continuo de afectos cuya moneda eran los «pulgarcitos».
Las redes sociales no solo son un desafío directo al poder de los estados, también han demolido uno de los principios básicos del capitalismo tradicional: el contrato. Zuboff insiste en que no es un tema menor. Cada día firmamos sin leer decenas de contratos de aceptación de las condiciones de uso de una plataforma o aplicación que, según esta economista, «no hacen más que reforzar la adhesión al universo legal establecido por estas compañías dejando al margen la legislación ordinaria y el Contrato Social». Por eso, si hemos de ser precisos, los gigantes tecnológicos no están ejecutando un golpe de Estado, un derrocamiento del poder del Estado. Es, afina Zuboff, un «derrocamiento de la soberanía del individuo». ¿Es posible mantener así en pie un sistema democrático?
5- La muerte de la conversación
En 2018, el informe anual de Telefónica constataba que la mensajería digital era ya el primer sistema de comunicación entre particulares en España. ¿Da igual llamarse para hablar que cruzar unos mensajes? Sherry Turkle, psicóloga y socióloga en el MIT (Instituto Tecnológico de Massachusetts), asegura en su ensayo En defensa de la conversación que se está produciendo una auténtica destrucción de una de las habilidades más características del ser humano: hablar entre nosotros, cara a cara, en tiempo real. Turkle constató ya en 2008, solo un año después de la aparición del iPhone (verdadero «big bang» de esta era tecnológica), que los jóvenes empezaban a sentirse incómodos al tener que afrontar una conversación con otra persona sin que mediase una pantalla de por medio. Era una actividad demasiado comprometedora. En cambio, la mensajería digital era «una experiencia sin fricción», donde además el usuario podía «editar» la imagen que quería proyectar; midiendo, corrigiendo o borrando los mensajes. Podían controlar lo que se iba a decir, cosa que no siempre ocurre en una conversación «de las antiguas».
¿Y cuál es la principal consecuencia de este ocaso conversacional? Se está abriendo una brutal «brecha de empatía» entre las personas. Por el móvil, o en las redes, se dicen cosas que nunca se dirían a la cara. Los intercambios, además, son más superficiales; la paciencia, honestidad y riesgo personal que requiere una conversación profunda es algo del pasado. La vida resulta demasiado emocional. Nah, mejor le mando un mensaje.
6- No hay verdad
Christian Salmond puso de moda la necesidad de un construir un «relato» sobre cualquier actividad humana que se desee emprender cuando publicó, en 2008, su libro de análisis político Storytelling, la máquina de fabricar historias y formatear mentes. En su último ensayo, en cambio, Salmond rectifica y dice que lo que ahora manda es precisamente lo contrario, que no haya relato. Esta, y sobre todo después del shock de Trump, es «la era del enfrentamiento»: todos contra todos, ruido y furia, ya nada es verdad ni mentira; es decir, todo es posverdad. ¿Y qué papel juegan internet y las redes en todo esto, en conseguir que el ser humano se vaya quedando sin asideros para orientar el curso de su vida?
Internet ha sido el virus que provocó una pandemia de desinformación. Carl T. Bergstrom y Jevin D. West abordan el asunto en su libro Contra la charlatanería, ser escéptico en un mundo de datos, que acaba de editar Capitán Swing. Parten de una interesante pregunta. Si internet pone a nuestro alcance toda la información posible, «¿cómo puedes engañar a alguien que puede verificar tus afirmaciones de forma fácil, inmediata y sin coste alguno?». La respuesta excedería las dimensiones de este artículo, pero lo cierto es que, como dicen estos autores, los móviles se han convertido en la herramienta más eficaz para la difusión de las mentiras. Por una confluencia de motivos. Internet, primero, ha dado voz «a un sinfín de voces en una conversación globalizada» y esa «promesa de democratización», subrayan los autores, «también tiene su lado oscuro». «Podemos acceder a más cantidad de información de la que nunca antes habíamos dispuesto, pero esa información es menos fiable que nunca». Es tanta información la que nos llega que «nos encontramos como el aprendiz de brujo; abrumados, agotados y sin ganas de luchar contra un torrente que fluye con más rapidez cada hora que pasa».
La mentira, además, cuenta con un potente aliado en el sistema operativo del ser humano: nos encantan los contenidos cursis, escandalosos o banales en vez de aquellos más áridos, serios, analíticos... Aburridos, en definitiva. Como dicen Bergstrom y West, «la pura verdad ya no es suficientemente buena», «la información directa no puede competir en este nuevo mercado». Los titulares que triunfan, dicen aludiendo a un estudio hecho por The New York Times, no son aquellos que «relatan ningún hecho, sino los que prometen una experiencia emocional». Que sea verdad o mentira ya parece algo secundario.
7- Adiós democracia
Los ingenieros sociales de Silicon Valley han encontrado nuestro talón de Aquiles: esa debilidad humana por la mentira más fantasiosa. O por el contenido más extremo. Los algoritmos muerden ahí y para incentivar nuestra participación (que genera sus ganancias) amplifican los discursos más radicales. Serán los que generarán más adeptos y detractores. En definitiva, más tráfico. Se trata de eso: tráfico.
Nuestra ira es el combustible de las redes sociales. Andrew Maratz, periodista de The New Yorker, analizó en su ensayo Antisocial la expansión desde las redes sociales del fenómeno de la «derecha alternativa» de EE UU, que lleva aparejado también el auge del negacionismo y de teorías conspiranoicas que solo podrían creerse bajo los efectos de un psicotrópico. Este es el mecanismo que según Maratz nos ha llevado a la polarización de la sociedad actual: «La premisa original de las redes sociales era que iban a unirnos, a hacer un mundo más abierto, tolerante y justo... Y algo de eso sí hicieron. Pero los algoritmos no se crearon para distinguir lo que es verdad o mentira, lo que es bueno o malo para la sociedad, lo que es prosocial de lo que es antisocial. Eso no es lo que hacen los algoritmos. Lo que hacen es medir la interacción: clics, comentarios, qué se comparte, retuits, todas esas cosas. Y si usted quiere que su contenido genere interacción, tiene que provocar emoción, específicamente lo que los expertos de la conducta llaman: ‘de alta excitación’». Algo «de alta excitación» es cualquier cosa, «positiva o negativa, que nos dispare el pulso». Las redes «activan nuestras emociones», que es tanto como decir que despiertan la bestia que llevamos dentro.
8- Automatización de la desigualdad
La automatización de la desigualdad es el título del ensayo de Virginia Eubanks, profesora de Ciencia Política de la Universidad de Albany, donde detalla cómo el uso del big data y los algoritmos se está convirtiendo en una manera de «castigar a los pobres». Este es uno de los efectos dañinos emergentes de las nuevas tecnologías. Eubanks sostiene, al analizar la realidad estadounidense, que la automatización de servicios de solicitudes de atención médica, cupones de alimentos, de concesión de créditos o de vigilancia policial están siendo especialmente punitivos con los más pobres. Otra especialista en la materia, Cathy O’Neill, en su imprescindible Armas de destrucción matemática, editado en España en 2018, ya advertía del poder que tenían los sistemas matemáticos predictivos de comportamientos para perpetuar los prejuicios sociales.
Los algoritmos reflejan la «ideología» de su programador. Y además son opacos para una mayoría: «En la actualidad, los modelos matemáticos mal diseñados microgestionan la economía, desde la publicidad hasta las cárceles. Son opacos, nadie los cuestiona, no dan ningún tipo de explicaciones y operan a tal escala que clasifican, tratan y optimizan a millones de personas», sentencia O’Neill.
