A través de los siglos, la democracia presupone individuos libres, capaces de deliberar y de autogobernarse; hoy, esos presupuestos son erosionados por tecnologías que miden, clasifican y modifican el comportamiento humano, siendo en consecuencia predictivos.
El peligro no es únicamente técnico, sino que es ontológico y político. Ontológico porque la condición humana se encuentra reducida a vectores, algoritmos, perfiles; la persona se vuelve “usuario”, “dato”, “comportamiento predecible”. Político, porque el gobierno del pueblo, la deliberación libre, la igualdad frente a la ley, exigen que los ciudadanos posean intimidad libre de vigilancia, recursos epistemológicos para formarse ideas propias, y una relación equitativa entre sí. Según estudios recientes, la IA y el capitalismo de vigilancia socavan precisamente esos recursos porque distribuyen el “tiempo libre” (libre de monitoreo) y el “capital epistemológico” de modo desigual, consolidando nuevas jerarquías invisibles[1].
La línea entre lo público y lo privado se ha erosionado y por ello se produce un desplazamiento del poder. No es ya únicamente el Estado el que domina mediante leyes e instituciones, sino plataformas privadas que colectan datos sin el consentimiento informado de los sujetos. Una vez iniciado el proceso de recopilación de datos, la lógica de expansión es imparable. La forma conservadora de ver esto es reconocer que la esencia de la comunidad política (la autonomía, la dignidad, la persona como fin y no como medio) está siendo eclipsada por el funcionalismo instrumental de la tecnología. Lo “nuevo” no significa necesariamente “bueno”; esta tendencia actual puede significar regresión hacia formas más sutiles de dominación. La vigilancia algorítmica nos convierte en sujetos gobernados más que en ciudadanos.
Como diría Suresh Venkatasubramanian: “Esta situación plantea un dilema muy difícil para quienes (yo incluido) mantenemos la esperanza de que la sociedad pueda usar la IA y los datos para el bien común, y creemos que las personas solo necesitan las protecciones adecuadas para hacerlo. La facilidad con la que se puede violar el estado de derecho, destruir las protecciones y abusar de los datos al servicio del poder plantea una gran pregunta sobre el riesgo de cualquier recopilación y uso de datos, incluso si existiera un propósito benigno desde el principio….”
[1] Fuente: https://thebulletin.org/2025/08/how-ai-and-surveillance-capitalism-are-undermining-democracy/#post-heading
