Durante las rebeliones de la primavera árabe que comenzaron en 2010, los teléfonos y las redes sociales sirvieron a la gente para convocarse y organizar sus acciones. En las protestas callejeras de Irán en 2009 las nuevas tecnologías hicieron más difícil para los guardianes tradicionales de la información –los gobiernos y los medios– la tarea de controlar el discurso disidente.
Los nuevos guardianes de la información, que por cierto no se consideraban guardianes sino simplemente “plataformas” neutras, observaban con agrado el potencial transformador de sus tecnologías.
En el Medio Oriente los disidentes usaron herramientas digitales para desafíar a gobierno tras gobierno. Pero en el aire ya se olfateaba un cambio.
Durante el levantamiento de Tahrir, Hosni Mubarak tuvo la mala idea de cortar el servicio celular y de Internet. La medida se le volvió en contra: impidió que la información saliera de la plaza Tahrir pero colocó a Egipto en el centro de la atención internacional.
No entendió que en el siglo 21 importa más la atención que la información. Además, los simpatizantes de los revolucionarios de El Cairo aportaron sus teléfonos satelitales para que concedieran entrevistas y enviaran imágenes a las organizaciones internacionales de noticias que ahora estaban muy interesadas.
En pocas semanas, Mubarak fue obligado a dimitir y fue reemplazado por un consejo militar. Lo que hizo a continuación ese consejo fue un presagio de lo que vendría. Abrió una página en Facebook y la convirtió en el canal exclusivo para sus comunicados. Había aprendido de los errores de Mubarak y ahora jugaría el partido en el terreno de los disidentes.
Es que el poder aprende, y las herramientas poderosas siempre terminan en sus manos. Esto es fundamental para entender cómo, en siete años, las tecnologías digitales pasaron de ser las herramientas de la libertad y el cambio, a ser las responsables de los trastornos en las democracias occidentales, culpables de aumentar la polarización, del surgimiento del autoritarismo y de la intromisión de Rusia en las elecciones nacionales de Estados Unidos y otros.
Pero para entender cabalmente lo que ha ocurrido, debemos también examinar cómo se combinan la dinámica social humana, la ubicua conectividad digital y los modelos de negocios de las gigantes tecnológicas para crear un entorno donde crece la desinformación y hasta la información verdadera puede confundir y paralizar más que informar e iluminar.
Del empoderamiento a la desinformación
La elección de Barack Obama en 2008 como el primer presidente afroamericano de los Estados Unidos fue una especie de presagio de lo que ocurriría en la Primavera Ãrabe, donde la tecnología dio poder a los indefensos. Obama era un candidato improbable en la elección general. Sus dos victorias, en 2008 y 2012 fueron interpretadas como la resultante de una campaña que se apoyó en lo tecnológico, con un inteligente uso de las redes sociales, que identificaron a los votantes y les hablaron en forma personalizada. Luego de su segundo triunfo, el MIT Technology Review publicó un artículo titulado “Big Data salvará la política”. Allí decía que el teléfono móvil, la Red y la difusión de la información constituían una combinación mortal para los dictadores”.
Era verdad que las redes sociales permitían a los disidentes saber que no estaban solos, pero la micro-focalización online (microtargeting) también podía crear un mundo en el cual nadie sabría qué mensajes estaban recibiendo los vecinos o cómo se estaban adaptando los mensajes dirigidos a las personas sobre la base de sus deseos y vulnerabilidades.
Las plataformas digitales permitían a las comunidades reunirse de maneras nuevas pero también dispersaban las comunidades existentes, esas que habían mirado las mismas noticias en televisión y leído los mismos diarios. Incluso el hecho de vivir en la misma calle significaba menos cuando la información era diseminada mediante algoritmos diseñados para maximizar ingresos manteniendo a la gente pegada a las pantallas.
Fue un cambio de la política colectiva y pública a una más privada y dispersa, una donde los actores políticos recolectaban más y más información personal para apretar los botones adecuados, persona por persona y desde las sombras.
Era la receta perfecta para la desinformación y la polarización.
La ilusión de inmunidad
Los revolucionarios de la plaza Tahrir y los defensores del partido Demócrata en Estados Unidos no fueron los únicos en creer que siempre tendrían el control. La National Security Agency de Estados Unidos tenía un arsenal de herramientas de hackeo basadas en las vulnerabilidades de las tecnologías digitales –virus, puertas secretas, atajos muy avanzados de matemáticas y enorme potencia de computación–.
Esas herramientas recibían informalmente el nombre “Nadie más que nosotros” (NOBUS, del inglés “nobody but us”; eso significaba que nadie más podía aprovecharlas, por eso no sentían la necesidad de enmendar las vulnerabilidades ni de fortalecer la seguridad en computación en términos generales. La NSA parecía creer que la seguridad online débil dañaba a sus adversarios mucho más de lo que dañaba a la NSA.
Esa confianza no parecía injustificada a muchos. Después de todo, Internet es fundamentalmente una creación de Estados Unidos; sus compañías más grandes fueron fundadas en Estados Unidos. Los ingenieros en sistemas del mundo entero hacen cola para entrar al país aspirando trabajar en Silicon Valley. Y la NSA tiene un presupuesto gigantesco y miles de los mejores hackers y matemáticos del mundo.
Como toda la información es clasificada, la historia completa no se conoce, pero entre 2012 y 2016 no hubo ningún esfuerzo visible por reforzar de forma significativa la infraestructura digital en Estados Unidos. Tampoco se levantaron alarmas sobre lo que podía significar una tecnología que atravesaba fronteras. Los flujos de información global que facilitaban las plataformas globales significaban que una persona podía ahora sentarse en una oficina en Macedonia o en los suburbios de Moscú o San Petersburgo y, por ejemplo, crear lo que parecía ser un distribuidor de noticias locales en Detroit o Pittsburgh.
No parecía que los organismos de inteligencia, la burocracia o la maquinaria electoral de Estados Unidos advirtieran que la verdadera seguridad digital requería mejor infraestructura técnica y más conciencia pública sobre los riesgos de los hackeos, de la desinformación, de la interferencia y mucho más.
El poder de las plataformas
En ese contexto, las pocas gigantescas plataformas de redes sociales en Estados Unidos pudieron resolver como mejor les pareció los problemas que iban surgiendo. No es de sorprender, entonces, que priorizaran su rentabilidad y el valor de sus acciones. Durante los años de la administración Obama, esas plataformas crecieron en forma escandalosa, prácticamente sin regulación alguna. Se dedicaron a fortalecer sus sistemas para vigilar intensamente a sus usuarios y así hacer todavía más eficaz la publicidad en sus plataformas. En menos de diez años, Google y Facebook se convirtieron en un virtual duopolio en el mercado publicitario digital.
Facebook se tragó además a posibles competidores como WhatsApp e Instagram sin que se oyeran las alarmas antimonopólicas. Todo eso le dio más data, lo que le sirvió para mejorar sus algoritmos para mantener a los usuarios en la plataforma y enviarles avisos publicitarios. Su motor de IA le ayudaba a encontrar audiencias “similares ” que podían ser receptivas a un determinado mensaje. Solo después de 2016 fue que se hizo evidente el daño que esa característica podía causar.
Google, por su parte, cuyos rankings tienen el poder de crear o destruir una compañía, servicio o político y cuyo correo tenía 1.000 millones de usuarios en 2016, también manejaba la plataforma de video You Tube, un canal que se usaba cada vez más para información y propaganda política en todo el mundo.
Aunque más pequeña que Facebook y Google, Twitter tuvo un enorme papel gracias a su popularidad entre periodistas y políticos. Su filosofía de apertura y su magnanimidad con los pseudónimos, se adapta perfectamente a los rebeldes del mundo, pero también atrae a los provocadores que envían insultos a mujeres, disidentes y minorías. Mucho más tarde se descubriría el uso de los bots o cuentas robot que los abusadores usaban para automatizar y amplificar sus tweets.
En definitiva, las herramientas digitales tuvieron una participación importante en las revueltas políticas de todo el mundo en los últimos años: incluido el voto por el Brexit en Gran Bretaña, los avances de la extrema derecha en Alemania, Hungría, Suecia, Polonia y Francia.
Pero las redes sociales no constituyen la única tecnología supuestamente democratizadora que cooptaron los extremistas y autoritarios. También está el bitcoin, una criptomoneda fundada para dar a la gente anonimato y libertad frente a las instituciones financieras. El bitcoin permitió comprar redes virtuales privadas que sirven para cubrir las pisadas online. Luego se pueden usar para crear organizaciones falsas de noticias en las redes sociales. Se fomentaba así la polarización.
Moraleja con algunas lecciones
¿Cómo fue que ocurrió todo esto? ¿Cómo hicieron las tecnologías digitales para pasar de empoderar a los ciudadanos y voltear dictadores a ser usadas como herramientas para la opresión y la discordia? Hay algunas lecciones fundamentales.
Primero, el debilitamiento de los antiguos guardianes de la información (como los medios, las ONG y las instituciones académicas) al tiempo que empoderaba a los indefensos también, de otra manera, los desempoderaba profundamente.
Los disidentes pueden eludir más fácilmente la censura, pero la esfera pública a la que ahora pueden llegar tiene demasiado ruido y confusión para que puedan lograr algún impacto. Quienes aspiran a hacer un cambio social positivo tienen primero que convencer a la gente que hay algo en el mundo que debe ser cambiado y que hay una manera razonable y constructiva de hacerlo.
Por otro lado, los autoritarios y los extremistas, sólo tienen que embarrar las aguas y debilitar la confianza en general para que todos terminen fracturados y se sientan paralizados para hacer algo. Los viejos guardianes bloqueaban algunas verdades y alguna disidencia, pero también bloqueaban muchas formas de desinformación.
Segundo, los nuevos guardianes algorítmicos no son conductores neutrales de la verdad y la falsedad. Ellos hacen dinero manteniendo a la gente mucho tiempo en sus páginas o apps y eso es un incentivo para quienes difunden desinformación dirigiéndose a los prejuicios de la gente. Los nuevos guardianes triunfan alimentando la desconfianza y la duda.
Tercero, la pérdida de los guardianes hirió de muerte al periodismo local. Si bien algunos medios han logrado sobrevivir a la revolución de Internet, los periódicos locales están destruidos. Eso significa abrirle la puerta a la desinformación. En Internet no hay firmas ni investigación. Nadie se hace responsable de la supuesta noticia. Sin chequeos, crece la corrupción.
En cuarto lugar, se dice que en el ámbito online, la gente encuentra sólo opiniones similares a las suyas. Esto no es completamente así. Si bien los algoritmos dan a las personas lo que ellas ya quieren oir, hay investigaciones que muestran que probablemente se encuentran online más variedad de opiniones que offline, o que antes del advenimiento de las herramientas digitales.
Pero el problema está que online no ocurre lo mismo que cuando leemos la noticia en un diario, sentados en soledad. Cuando vemos online una noticia del bando contrario es como si la escucháramos en el estadio de fútbol junto a los de nuestro propio bando. Online estamos conectados con nuestras comunidades y buscamos la aprobación de quienes opinan como nosotros. Nos unimos a nuestro equipo gritándole a los fans del otro. En términos sociológicos, fortalecemos nuestra sensación de “pertenencia al grupo”: nosotros contra ellos. Esto explica por qué los diversos proyectos de chequeo de los hechos, si bien muy valiosa, no convence a la gente. La pertenencia es más fuerte que los hechos.
China gobierna sin diálogo pero con datos
Los líderes chinos siempre buscaron sondear la opinión pública sin tener que abrir la puerta a un acalorado debate y crítica a las autoridades. Durante el gobierno de Hu Jintao hubo una limitada apertura para solucionar ciertos tipos de problemas. Blogs, periodistas, abogados por derechos humanos y críticos online señalaban hechos de corrupción y controlaban el debate público hacia finales del mandato de Hu. Pero Xi Jinping tomó otro rumbo. Desde los primeros días de su gobierno, el informe diario que recibía sobre preocupaciones y disturbios era un resumen que se tomaba de las redes sociales.
La idea de usar la tecnología como herramienta de gobierno en China se remonta a por lo menos la década del 80. Lo explica el historiador Julian Gewirtz: “Cuando el gobierno chino vio que la infotecnología se convertía en parte de la vida cotidiana, se dio cuenta de que tendría una poderosa herramienta nueva para juntar información y controlar la cultura, para modernizar al pueblo y para hacerlo más gobernable. Los siguientes avances, que incluyen progreso en inteligencia artificial y procesadores más rápidos, fortalecieron esa postura.
Si bien no hay, que se sepa, un plan maestro que conecte tecnología y gobierno en China, hay varias iniciativas que tienen una estrategia común para recoger datos de particulares y empresas para orientar la toma de decisiones y crear sistemas de incentivos y castigos que influyan en el comportamiento del pueblo. Esas iniciativas incluyen el “Sistema de Crédito Social” del consejo de Estado 2014, la Ley de Cíberseguridad de 2016 y varios experimentos de empresas privadas en “crédito social”, en planes de “ciudades inteligentes” y vigilancia con herramientas tecnológicas. A menudo esto implica asociaciones entre el gobierno y las compañías tecnológicas.
De todas las iniciativas, la de mayor alcance es el Sistema de Crédito Social, o sistema de reputación y de confianza. El plan de gobierno, que cubre tanto a particulares como a empresas, enumera entre sus metas la “construcción de la sinceridad en los asuntos de gobierno, sinceridad comercial y credibilidad judicial”. El algoritmo detecta conductas sospechosas, como visitar una mezquita o poseer demasiados libros.
La primera herramienta del sistema son las listas negras. En los últimos cinco años, el poder judicial ha publicado los nombres de las personas que no han pagado sus multas o cumplido sus sentencias. Y según las nuevas regulaciones para el crédito social esa lista se comparte con varias empresas y organismos de gobierno. La gente que figura en la lista no puede sacar un crédito, reservar un vuelo ni parar en hoteles de lujo. Las compañías de transporte nacional han creado otras listas negras para castigar a los pasajeros, por ejemplo, por bloquear una puerta en el tren o por participar en una pelea durante el trayecto. Los infractores no pueden comprar pasajes durante los seis o doce meses siguientes. Este año sacaron una serie de listas negras para prohibir a las empresas “deshonestas” recibir futuros contratos del estado.
“La idea del crédito social es vigilar y dirigir el comportamiento de los particulares y las instituciones” dice Samantha Hoffman del Mercator Institute for China Studies en Berlín. “Una vez que se registra una infracción en una parte del sistema, eso puede disparar respuestas en otras partes. Es un concepto diseñado para manejar el desarrollo económico y social”.
Una de las mayores preocupaciones es que como en China el poder judicial no es independiente, los ciudadanos no tienen forma de protestar las acusaciones falsas o inexactas. Algunos han visto sus nombres incluidos en listas negras de viajes por una decisión judicial que no les envió notificación previa.
Las ocasionales explosiones de furia online señalan el resentimiento público.
En teoría, la gobernanza mediante datos podría ayudar en la resolución de problemas porque permite que el gobierno central recolecte información directamente. Esa fue la idea detrás de la introducción de monitores sobre la calidad del aire que envían datos a las autoridades centrales en lugar de confiar en los funcionarios locales que podrían tener intereses en mantener industrias contaminantes. Pero muchos aspectos de la buena gobernanza son demasiado complicados para permitir ese tipo de monitoreo directo.
En una columna publicada este año en el Washington Post, Xiao Qiang, un profesor de comunicaciones de la Universidad de California, definió la gobernanza tecnológica de su país como un “estado digital totalitario”.
