La astucia del algoritmo

Vigilancia, disciplinamiento y el nuevo relato de lo inevitable

Ilustración: Amnesty International, Celina Hilbert.

 

La astucia de la razón es un libro de José Pablo Feinmann en el que hay encuentros que nunca ocurrieron, pero sirven para explicar la historia mejor que muchos acontecimientos verdaderos. Corre 1867. Felipe Varela se encuentra en La Rioja, se acerca la batalla de Pozo de Vargas. Sus montoneras están a punto de enfrentar a las fuerzas nacionales de Taboada, que terminarán derrotándolas. Entonces hace entrar en escena a un visitante imposible: Karl Marx.

Ese mismo año aparece el primer tomo de El Capital. Mientras Marx intenta comprender desde Europa las leyes que impulsan la expansión del capitalismo, en un rincón de América del Sur un caudillo federal pelea contra un orden que también se presenta como portador del futuro.

Dos mundos frente a frente. Marx tiene razones poderosas, el capitalismo avanza, transforma las fuerzas productivas, multiplica el comercio, construye ferrocarriles, concentra poblaciones y conecta territorios. La historia parece marchar en esa dirección. Varela, en cambio, pertenece al mundo que ese progreso viene a derrotar; las provincias, las economías regionales y las resistencias al poder central.

Varela introduce una pregunta perturbadora: ¿quién decidió que la historia tiene un solo camino? ¿no podría existir otra dirección o un desvío? Feinmann lo llamará “sentido lateral de la historia”, mirar no solo hacia dónde fue la historia, sino qué destruyó, silenció o dejó al costado para poder ir hacia allí. Es poner en crisis la idea de lo “necesario” y al vencido como alguien inevitablemente condenado a desaparecer.

Allí reside la fuerza de aquella ficción. Lo que parece inevitable también es una construcción política. Todo poder necesita presentar su victoria no solamente como conveniente, sino como necesaria. Apropiarse del futuro es una ventaja formidable; transforma a sus adversarios en sobrevivientes del pasado.

Un siglo y medio después, las condiciones de la modernidad son otras. Son los datos, los algoritmos, la inteligencia artificial, las plataformas digitales y los gigantescos sistemas capaces de reunir información sobre millones de personas.

El nuevo poder no necesita solamente saber qué hacemos. Aspira a anticipar qué haremos.

Amnistía Internacional ha advertido en reciente informe, titulado Estado de vigilancia, sobre la expansión entre diciembre del 2023 y diciembre del 2025 de tecnologías de vigilancia y sistemas digitales capaces de recolectar, cruzar y procesar cantidades extraordinarias de información. Cámaras, reconocimiento facial, teléfonos móviles, redes sociales, bases de datos públicas y privadas construyen una trama que convierte nuestros movimientos, consumos, relaciones y preferencias en información procesable. Habla de una “infraestructura tecno autoritaria de control social”.

El viejo panóptico era una torre desde la cual se pudiera mirar. El panóptico digital puede prescindir incluso del observador. Somos nosotros quienes producimos permanentemente los datos que permiten reconstruir nuestras vidas.

Palantir es la empresa de Peter Thiel, que desarrolla sistemas capaces de integrar enormes cantidades de información dispersa y convertirlas en herramientas de análisis para gobiernos, fuerzas de seguridad, organismos militares y grandes corporaciones.

El verdadero salto tecnológico no consiste solamente en mirar. Consiste en relacionar. Una cámara registra una imagen. Una tarjeta registra una compra. Un teléfono registra un desplazamiento. Una red social registra preferencias. Un organismo estatal conserva antecedentes. La integración de datos, puede construir el mapa de una persona. Poseer el mapa adquiere poder sobre el territorio.

Sería un error reducir esta discusión a Palantir o a Peter Thiel, nuestro reciente vecino de Palermo Chico en la ciudad de Buenos Aires. Ellos son expresiones visibles de una transformación mucho más profunda. Estamos en una época en la que el poder político, económico y tecnológico posee capacidades de observación y procesamiento de información jamás pensados.

La cuestión central ya no es únicamente cuánto saben sobre nosotros, sino qué pueden hacer con aquello que saben.

La vigilancia nunca es neutral. Clasifica, ordena, establece patrones, detecta anomalías y construye perfiles. Decide qué comportamiento parece normal y cuál merece atención. Y cuando esas categorías comienzan a orientar políticas públicas, controles migratorios, sistemas policiales, decisiones laborales o acceso a derechos, el algoritmo deja de ser una herramienta técnica para convertirse en una forma de gobierno. Así aparece el disciplinamiento.

Michel Foucault explicó que las sociedades modernas no gobernaban solamente mediante la prohibición o el castigo. También producían conductas. La escuela, la fábrica, el hospital, el cuartel y la cárcel organizaban cuerpos, horarios y comportamientos. La sociedad digital lleva aquella lógica a otra escala.

Ya no hace falta ordenar permanentemente. Basta con construir un entorno donde cada individuo sepa —o sospeche— que puede ser observado, evaluado y clasificado. El control más eficaz es aquel que termina incorporándose a la conducta de quien es controlado.

Por eso el problema de la vigilancia excede ampliamente la privacidad. Lo que está en juego es la libertad, esa palabra que el Presidente mando al carajo.

Una sociedad observada modifica lentamente su manera de hablar, de reunirse, de protestar y hasta de imaginar. No es necesario prohibir todas las conductas. A veces alcanza con instalar la sensación de que determinadas decisiones tendrán consecuencias.

El disciplinamiento es previo a la sanción. Aquí vuelve aquella conversación imposible entre Marx y Felipe Varela, porque nosotros también, estamos frente a un relato que pretende presentarse como inevitable. Se nos dice que el avance tecnológico no puede detenerse. Como en 1867, la palabra clave vuelve a ser “inevitable”.

No se trata de rechazar la tecnología. Sería tan absurdo como haber querido detener el ferrocarril para conservar la vigencia de las carretas. Se trata de discutir quién controla esas herramientas, con qué reglas, bajo qué instituciones democráticas y para beneficio de quién.

Cada innovación abre posibilidades, pero son las sociedades las que deciden cómo utilizarlas. Un sistema capaz de integrar millones de datos puede servir para mejorar políticas sanitarias, anticipar catástrofes ambientales o administrar mejor una ciudad.

El algoritmo no tiene moral, la sociedad que lo utiliza sí debería tenerla.

Quizás allí se encuentre el verdadero debate de nuestra época. No entre tecnología y atraso, sino entre diferentes formas de organizar el futuro.

Peter Thiel y Palantir representan una concepción en la que información, seguridad y poder comienzan a confundirse. Frente a ella, la democracia necesita construir otra respuesta: transparencia, controles públicos, derechos digitales, límites al uso de datos y ciudadanos capaces de saber cuándo, cómo y por qué están siendo observados.

Una sociedad, al aceptar que todo puede ser registrado en nombre de la seguridad, puede descubrir demasiado tarde que también se ha entregado la posibilidad de disentir sin ser clasificada.

En Pozo de Vargas, Felipe Varela sabe que probablemente será derrotado. Las fuerzas que tiene enfrente parecen representar el curso vencedor de la historia. Sin embargo, Feinmann le concede algo que ninguna derrota puede quitarle: la posibilidad de discutir el sentido de ese curso.

Esa, debería ser nuestra discusión. El poder ya no necesita decirnos qué debemos hacer. Puede intentar conocernos lo suficiente, anticipar lo que haremos y construir un mundo de opciones previamente ordenadas.

Entonces la pregunta de Felipe Varela vuelve a atravesar más de ciento cincuenta años:

¿Quién dijo que éste es el único futuro posible?

La mayor victoria del poder tecnológico no consiste en vigilarnos, sino en convencernos que su expansión es inevitable y de que cualquier resistencia pertenece a un mundo condenado a desaparecer. Es la astucia del algoritmo. Frente a ella quizás necesitemos recuperar aquel viejo derecho que Feinmann puso en el destino de Felipe Varela: el derecho a imaginar un sentido lateral de la historia.

 

 

--------------------------------

Para suscribirte con $ 8.000/mes al Cohete hace click aquí

Para suscribirte con $ 10.000/mes al Cohete hace click aquí

Para suscribirte con $ 15.000/mes al Cohete hace click aquí