El periodista John Lanchester expuso unas palabras muy interesantes respecto a cómo la tiranía del siglo XXI requiere más del mundo virtual que los combates bélicos dentro de un campo real. Dijo: “China está a punto de convertirse en algo nuevo: un estado tecno-totalitario impulsado por IA… El proyecto tiene como objetivo formar no solo un nuevo tipo de estado, sino también un nuevo tipo de ser humano, uno que haya internalizado completamente las demandas del estado y la integridad de su vigilancia y control. Esa internalización es el objetivo: las agencias del estado nunca necesitarán intervenir para corregir el comportamiento del ciudadano, porque el ciudadano lo ha hecho por ellos de antemano”.
Está hablando del uso que hace Beijing de la inteligencia artificial y otras formas de recopilación de datos digitales para crear un aparato estatal que no solo monitorea a todos los ciudadanos constantemente, sino que también puede obligarlos a comportarse de la manera que exige el estado sin siquiera desplegar la policía secreta o la amenaza de gulags (aunque esos existen para los recalcitrantes), y sin sufrir a su vez de la pobreza generalizada que era el producto inevitable del comunismo al viejo estilo.
La gran mayoría paga por los bienes y servicios utilizando aplicaciones a través de la tecnología que involucra el reconocimiento facial. Comodidad y seguridad al consumidor generan una enorme cantidad de datos personales sobre cada individuo, los cuales son rastreados por el gobierno.
El estado tiene otros usos para la tecnología de reconocimiento facial. Ejemplo de este Gran Hermano del S. XXI son las cámaras de televisión son omnipresentes en las calles chinas y registran las idas y venidas diarias de la gente de la nación. El software usado en Beijing es por demás avanzado; si un ciudadano ingresa a un área prohibida para él, una iglesia, por ejemplo, o incluso si una persona simplemente camina en la dirección opuesta a una multitud, el sistema lo registra automáticamente y alerta a las fuerzas estatales.
John Lanchester expone cómo el sistema de crédito social de China rastrea automáticamente las palabras y acciones, en línea y fuera de línea, de cada ciudadano y otorga recompensas o deméritos basados en la obediencia; sistema que Occidente comienza a considerar en sus modelos políticos. Según el periodista en cuestión dijo: “…Un chino que hace algo socialmente positivo (ayudar a un vecino anciano con una tarea o escuchar un discurso del líder Xi Jinping) recibe puntos para un puntaje de crédito social más alto. Por otro lado, alguien que hace algo negativo (dejar que su perro haga caca en la acera, por ejemplo, o hacer un comentario sarcástico en las redes sociales) sufre una rebaja de crédito social…”
Debido a que la vida digital, incluidas las transacciones comerciales, se monitorea automática y constantemente, los ciudadanos con altas calificaciones crediticias sociales obtienen privilegios. Aquellos con puntajes más bajos encuentran más difícil la vida diaria tal como se viera en un famoso episodio de Black Mirror; ejemplo real de lo que sucede en China es que no se les permite comprar ciertos pasajes de viajes o actualizar determinados carnets. Incluso se informó que hasta las familias se ven afectadas, ya sea por la pérdida de trabajo o incluso por el acceso de sus hijos a la universidad. El infractor se encontrará aislado ya que el sistema algorítmico degrada a aquellos que están conectados con el infractor, y ciertamente hoy se vive en una dictadura de algoritmos.
El resultado es que una persona no puede participar en la economía o la sociedad a menos que tenga la aprobación del líder todopoderoso del sistema. Tal como se vio en Canadá recientemente, en una sociedad sin dinero en efectivo, el Estado tiene el poder de llevar a la bancarrota a los disidentes instantáneamente sólo cortando el acceso al mundo digital. En una sociedad en la que todos están conectados digitalmente, el Estado puede convertir a cualquiera en un paria instantáneo cuando el algoritmo lo determina, incluso para su familia.