La democracia no cabe en un algoritmo

Hay decisiones que no se notifican. No llegan con membrete oficial ni con firma responsable. No se publican en un diario oficial ni admiten recursos visibles. Solo producen efectos: una madre que deja de recibir un subsidio que sostenía su hogar, un joven que descubre que su contenido ha dejado de circular sin explicación inteligible, un pequeño empresario que nunca accede al crédito diseñado, en teoría, para promover la inclusión financiera. Nadie comparece. No hay audiencia. No existe motivación escrita. Hay un sistema, una puntuación, un modelo. Y en esa sustitución silenciosa comienza el dilema institucional.

Desde hace años aceptamos que los algoritmos organizarán la vida cotidiana. Nos parecieron herramientas funcionales: recomendaban lecturas, optimizaban rutas, detectaban fraudes. El discurso era técnico y tranquilizador: eficiencia, precisión, neutralidad estadística. Pero cuando esa misma racionalidad empieza a clasificar beneficiarios de políticas sociales, a perfilar ciudadanos “de riesgo” o a jerarquizar el debate público, ya no estamos ante mera tecnología instrumental. Estamos frente a una arquitectura de poder.

La democracia constitucional no se define solo por la obtención de resultados. Se define por la forma en que se decide. Divide el poder, lo hace visible y lo obliga a ofrecer razones públicas. La legitimidad no descansa únicamente en la eficacia de la medida, sino en la posibilidad de discutirla, impugnarla y corregirla.

Un algoritmo no delibera: procesa datos, identifica patrones, optimiza variables bajo criterios previamente definidos. Puede ser técnicamente sofisticado y, a su vez, políticamente problemático.

En buena parte de América Latina, la automatización estatal se presentó como equivalente de modernización administrativa: para focalizar mejores subsidios, detectar irregularidades, priorizar servicios. La promesa era razonable. Sin embargo, decidir quién accede y quién queda excluido de un programa social no es una operación neutra. Es una decisión distributiva. Y toda decisión distributiva es, inevitablemente, política.

Los modelos se construyen a partir de variables que reflejan realidades sociales: territorio, ingresos, historial crediticio, nivel educativo. No es necesario programar una intención discriminatoria para que el sistema reproduzca desigualdades estructurales. Basta con que aprenda de datos que ya contienen esas asimetrías. Lo que antes era una decisión administrativa discutible —y por ello revisable— ahora se presenta como conclusión matemática. Y cuando la discusión pública se limita a verificar si el modelo “predice correctamente”, la pregunta por la justicia del resultado se desvanece.

La eficiencia no es el valor supremo de una democracia constitucional. El debido proceso no constituye una traba burocrática; es el mecanismo que impide que el poder —cualquiera que sea su soporte tecnológico— se torne arbitrario. El fenómeno no se agota en el Estado. Las grandes plataformas digitales no solo alojan contenido: lo ordenan, lo priorizan y lo invisibilizan. Sus sistemas de recomendación influyen en qué temas dominan la conversación pública y qué voces quedan relegadas. No crean la polarización, pero tienden a amplificar aquello que maximiza la reacción emocional. La lógica económica es clara: capturar y retener atención.

Cuando la deliberación colectiva se encuentra mediada por cálculos opacos, la confianza pública se erosiona. El debate deja de centrarse en argumentos y comienza a girar en torno a sospechas: ¿qué intereses están codificados?, ¿qué variables determinan la visibilidad?, ¿a quién favorece el sistema?

La pregunta decisiva, profundamente democrática, es otra: ¿quién responde? Ante una decisión automatizada que causa daño, la responsabilidad se fragmenta. El proveedor invoca la complejidad técnica. La entidad pública señala el contrato. El operador alude a la configuración del sistema. El ciudadano queda atrapado entre líneas de código y cláusulas de exoneración.

Sin explicación comprensible no hay auténtica rendición de cuentas. Y sin rendición de cuentas, la legitimidad institucional se debilita. No se trata de demonizar la tecnología. Los sistemas automatizados pueden reducir arbitrariedades humanas, detectar patrones invisibles y mejorar la gestión pública. Pero su incorporación al ámbito decisorio exige condiciones mínimas: transparencia inteligible, evaluación de impacto en derechos fundamentales, supervisión humana efectiva y vías reales de revisión y corrección.

En términos simples: el algoritmo debe estar subordinado a la Constitución, no la Constitución adaptada al algoritmo. El riesgo no reside en el error técnico, que es inherente a cualquier proceso decisorio, sino en la aceptación acrítica de su lógica. Cuando la matemática sustituye a la deliberación, la democracia se empobrece.

La historia del constitucionalismo es la historia de la lucha contra el poder opaco. Hoy ese poder no siempre tiene rostro. A veces se presenta como interfaz. A veces como fórmula estadística. A veces como base de datos. Pero las preguntas siguen siendo las mismas: ¿Quién decide?, ¿Con qué razones?, ¿Ante quién responde? Un puntaje no equivale a una justificación pública.

Un modelo predictivo no reemplaza el debido proceso. La democracia puede apoyarse en tecnología, lo que no puede hacer es delegarse en ella.