No serviría de nada una IA más moral,
si esta moral es decidida por unos pocos.
León XIV, Magnifica humanitas (2026), n. 107.
¿Qué tienen que ver un ministro, tres agentes de inteligencia artificial y cuatro principios ocultos que no conocemos, con un Papa que llega a Buenos Aires el domingo 8 de noviembre y trae una encíclica sobre IA bajo el brazo? Parecen dos noticias sin relación. Leídas juntas, se contestan, y se contestan sobre algo más concreto que la moral: quién decide qué es una ciudad.
El ministro y sus agentes
Diez días antes de la llegada del Papa, Federico Sturzenegger, ministro de Desregulación, contó en una entrevista que su equipo usa tres agentes de IA para revisar las leyes vigentes artículo por artículo. Según La Nación, los agentes trabajan con "cuatro principios centrales" y se someten a una votación conjunta. Perfil añade que el sistema propone qué artículos modificar, cuáles eliminar y cómo redactar las nuevas disposiciones.
Hasta donde pudimos verificar, esos cuatro principios no se publicaron. Nadie sabe quién los redactó ni con qué criterios. Ahí está el dato político: el sistema puede ser tan técnico como se quiera, pero lo que decide es qué se declara obsoleto. Lo demás es ejecución.
Además, la votación tiene un problema que el ministro no mencionó. Si los tres agentes comparten el mismo modelo base, su acuerdo no es una deliberación plural. Es una repetición con formato de asamblea.
El Papa responde
Magnifica humanitas dice algo que pocos textos oficiales se animan a escribir: la IA no es moralmente neutra. Todo artefacto decide qué mide, qué ignora y cómo clasifica a las personas (n. 104). Y los sistemas que se presentan como objetivos pueden reforzar "estereotipos o posiciones ideológicas de quienes los han diseñado y programado" (n. 102).
El texto admite, además, que las IA modernas están "más cultivadas que construidas" y que ni sus propios diseñadores conocen del todo cómo funcionan (n. 98). Por eso pide que la responsabilidad siga siendo identificable (n. 105). Y resume la advertencia en una frase que cualquier gobierno debería tener en su escritorio: "No serviría de nada una IA más moral, si esta moral es decidida por unos pocos" (n. 107).
Duelo de principios
Aquí se produce el primer choque. La encíclica exige que la moral de los sistemas se discuta con criterios de justicia compartida. El Ministerio, por ahora, la define con cuatro principios que nadie discutió en público. Uno pide deliberación; el otro, eficiencia.
El choque deja una provocación incómoda. En los números 86 y 89, la propia Iglesia pide un examen de conciencia sobre transparencia y rendición de cuentas. Pocas veces un funcionario se impone algo parecido en público. Si la institución que dice que la moral no puede decidirse por unos pocos acepta mirarse al espejo, ¿por qué no lo hace el Estado?
Una vieja pregunta con nueva forma
La pregunta por la política de los objetos no es nueva. En 1980, Langdon Winner preguntó si los artefactos tienen política y respondió que sí: los puentes bajos de Long Island, diseñados para impedir el paso de ómnibus, excluían a los sectores populares sin que ninguna ley lo dijera. En 1988, Donna Haraway criticó el conocimiento sin lugar, esa mirada que se presenta como objetiva precisamente porque no dice desde dónde habla. Sheila Jasanoff, por su parte, habló de imaginarios sociotécnicos: visiones compartidas del futuro que orientan qué tecnologías se desarrollan y para qué.
Cuando un sistema "analiza objetivamente" qué artículos son obsoletos, oculta que la noción de obsolescencia ya contiene una posición sobre qué es el Estado y a quién protege. La neutralidad técnica no es ausencia de valores: es un valor que se esconde.
Lo que se anuncia
La noticia tiene un segundo capítulo. En abril, el mismo ministro anunció que buscará habilitar sociedades integradas por agentes de IA. "En diez años, el PBI va a estar conformado por agentes de IA", dijo. El modelo que inspira la propuesta es el de Irlanda, un país con un régimen fiscal atractivo para multinacionales. Según la cobertura de la medida, esta "representa el comienzo de un camino de simplificación legislativa: cuantas menos leyes, más justicia".
En la misma línea, la Ley Hojarasca busca eliminar entre 70 y 80 leyes que el gobierno considera obsoletas, un "camino necesario para la depuración legislativa". Y en octubre el propio ministro resumió la filosofía sin rodeos: "Si encontramos algo que hace Estados Unidos y Europa, lo queremos hacer nosotros también".
Ahí está la clave. El punto de referencia del progreso siempre queda afuera. Es mimetismo normativo en estado puro.
El espejo de la encíclica
Acá la encíclica dice algo que suena como el diagnóstico de esa frase. Denuncia una nueva extracción: datos sanitarios, perfiles epidemiológicos y mapas genéticos de territorios periféricos que entrenan modelos que deciden quién importa. Son, dice, "las nuevas 'tierras raras' del poder" (n. 178). Y lo condensa así: "De lo contrario, la era digital no será postcolonial, sino colonial bajo otra forma" (n. 178).
La provocación es otra: ¿quién lo dice? La institución que durante siglos prestó su autoridad a los reinos para regular y legitimar formas de sometimiento. El texto mismo lo reconoce: la Sede Apostólica, "instada por las peticiones de los soberanos", intervino para "regular y legitimar" formas de sometimiento, incluida la esclavitud de los "infieles" (n. 176). Y pide perdón: "En nombre de la Iglesia, pido sinceramente perdón" (n. 176).
Es una confesión valiosa. También es una contradicción: quien denuncia la colonialidad habla desde un lugar que fue parte de ella.
Colonialidad por defecto
Aquí aparece el concepto que vengo trabajando ("Una pregunta incorrecta"). En Aníbal Quijano, la colonialidad del poder no necesita un decreto. Opera como una matriz que decide qué cuenta como conocimiento válido, qué es modernización y qué es seguridad jurídica. Cuando esa matriz se instala en un sistema de IA, deja de ser una decisión y se vuelve un valor predeterminado. Nadie firma la colonialidad. Viene de fábrica.
El volumen compilado por Edgardo Lander, La colonialidad del saber, reúne a Quijano, Enrique Dussel, Walter Mignolo y Santiago Castro-Gómez. En conjunto sostienen, cada uno desde su lugar, que el saber moderno se presenta como universal y neutral mientras oculta desde dónde habla.
La crítica latinoamericana a la Iglesia colonial tiene una historia más larga que esta encíclica. Dussel sostuvo que 1492 marca el nacimiento de la modernidad y que el "Otro" fue "en-cubierto" como lo "Mismo". Gustavo Gutiérrez mostró cómo las argumentaciones teológicas y filosófico-políticas buscaron justificar la conquista como un sistema justo, y sostuvo que la exclusión colonial sigue vigente en las estructuras contemporáneas. Leonardo Boff identificó en la sociedad colonial y rural una "religión solo del Padre" centrada en un patrón con poder absoluto.
El caso argentino encaja con esa matriz. Se importa un régimen, se adoptan parámetros de otro lugar y todo se presenta como modernización.
Soberanía: quién pone los principios
La soberanía digital no es autarquía ni nacionalismo de utilería. Es la capacidad de discutir los parámetros con los que nos gobiernan. Ahí Brasil y la Argentina se separan. En octubre, Lula dijo, sobre la IA, que quiere "criar uma brasileira" y no depender de una inteligencia artificial "chinesa ou americana". En la Argentina, el proyecto ofrece lo que llamo "alojar": energía, agua, exenciones y la promesa de no regular. Lo desarrollé en "SoberanIA digital".
Los cuatro principios del Ministerio son el lugar donde esa soberanía debería estar. Si son públicos, se pueden discutir. Si no lo son, el sistema reproduce la matriz colonial que la encíclica denuncia, pero con apariencia de eficiencia. Un Estado que delega en agentes la decisión sobre sus propias leyes no ahorra tiempo: transfiere criterio.
Jerusalén en versión técnica
Aquí la metáfora deja de ser una figura y se vuelve un programa. Hernán Thomas, director del Instituto de Estudios sobre la Ciencia y la Tecnología de la Universidad Nacional de Quilmes, sostiene que la tecnología puede generar condiciones de inclusión o de exclusión, y su diseño decide cuál de las dos prevalece. Lo planteó en una entrevista de 2022 con una fórmula que habría firmado cualquier constructor de murallas: el desarrollo inclusivo necesita "alguna idea contrahegemónica".
El error más frecuente, para él, es la “solución puntual”. Un artefacto se diseña en un laboratorio, se transfiere a una comunidad y no se usa. Facundo Picabea y el propio Thomas distinguen entre diseño técnico y diseño sociotécnico: un artefacto puede estar impecablemente diseñado y aun así no ser adoptado por razones sociales. Lo que falla es la relación con el territorio, con quienes lo usan y con las alianzas que lo sostienen. Mariano Fressoli, en un trabajo sobre transferencias tecnológicas que fracasan, analiza por qué ocurre y qué aprenden los proyectos cuando ocurre.
Acá aparece la diferencia entre Babel y Jerusalén en términos técnicos. Babel es la solución única que viaja del centro a la periferia: un modelo, un proveedor, una plataforma que llega ya cerrada. Jerusalén es un sistema de tramos. Cada grupo asume su parte con conocimientos y materiales locales, dentro de alianzas sociotécnicas que incluyen universidades, cooperativas, movimientos sociales y Estado. La Jerusalén de Nehemías no se levanta con un artefacto, sino con una red de responsabilidades. Y esa red es lo que Thomas llama sistema tecnológico social.
Según Picabea y Thomas, la oposición entre innovación de punta y tecnología de bajo costo es una falsa contradicción. Dicho de otro modo: la soberanía no consiste en elegir entre alta tecnología y tecnología social. Consiste en decidir quién diseña, para qué y con qué alianzas. En Tecnologías públicas, que Thomas coordina con Paula Juárez, desarrolla esa idea en clave de políticas públicas.
Hay una consecuencia que el gobierno no tiene en cuenta. Si la IA se adopta como transferencia (un modelo importado, un proveedor, un marco legal copiado de otro país), el resultado es Babel con buenas intenciones: una solución que nadie en el territorio puede modificar. Si se diseña como tramo de muralla, con alianzas locales y capacidad de discutir sus principios, se parece a Jerusalén.
El contrapunto con los agentes es directo. Los tres agentes del Ministerio son un diseño técnico que decide sobre leyes. Lo que falta es el diseño sociotécnico: quiénes definen los principios, qué comunidades son afectadas, qué canales tienen para objetar. Una ciudad se construye con los que van a vivir detrás de la muralla. Un sistema que decide por ellos, aunque sea muy eficiente, no reconstruye Jerusalén: la reemplaza por una maqueta.
Lo que queda
En 2015, Francisco lo dijo sin medias tintas: pidió "humildemente perdón" por los crímenes contra los pueblos originarios y pidió decir "NO" a "las viejas y nuevas formas de colonialismo" (discurso oficial). Pero también advirtió que "alguno podrá decir, con derecho, que cuando el Papa habla del colonialismo se olvida de ciertas acciones de la Iglesia". Esa frase debería leerla el gobierno antes de copiar a Irlanda, Estados Unidos o Europa.
Babel no necesita un villano. Necesita una mesa donde se sientan pocos y se decide con criterios que parecen técnicos. Jerusalén necesita algo más difícil: que cada tramo de muralla tenga voz en el plano. Si la IA es un tramo y no una torre, la pregunta deja de ser si la usamos y pasa a ser quién la diseña junto con quienes van a vivir con sus efectos. Cuando el Papa pise Buenos Aires, la pregunta no es si la IA nos va a destruir. Es quién está votando en nuestro nombre cuáles artículos.
*Pablo Baumann es sociólogo, docente e investigador en la Universidad Nacional de Quilmes.
--------------------------------
Para suscribirte con $ 8.000/mes al Cohete hace click aquí
Para suscribirte con $ 10.000/mes al Cohete hace click aquí
Para suscribirte con $ 15.000/mes al Cohete hace click aquí