“¿Quién construyó Tebas, la de las siete puertas?”
Bertolt Brecht, “Preguntas de un obrero que lee”.
El martes 29 de septiembre, los jefes de Google, Meta, Nvidia y Anthropic, el presidente de OpenAI y Elon Musk almorzaron en la Casa Blanca con Trump. De ahí salió un documento de una página, firmado por el Presidente norteamericano y estos ejecutivos, que se comprometen —voluntariamente— a vigilarse a sí mismos. Trump dijo que era “casi una constitución” y lo calificó de moralmente vinculante. En el facsímil, debajo de su firma, había un error de tipeo: Unites States. Este dato circuló más que el contenido.
El 8 de septiembre, un investigador de 27 años había renunciado a una de esas seis empresas con un hilo en X, diciendo que estaban apostando con nuestras vidas.
En la columna que escribí en aquella oportunidad, decía que nadie había decidido entregar el control, que se iba entregando solo, decisión razonable tras decisión razonable. Quiero corregirme. Nadie decidió entregarlo, es cierto. Pero alguien decide en qué dirección se desarrolla eso que vamos entregando. Y el 29 de septiembre esas personas se sacaron una foto juntas.
Cuatro días después del almuerzo, volvió a pasar. David Robinson, que durante tres años y medio dirigió los informes de seguridad de OpenAI y fue el principal autor del marco de seguridad de la empresa, explicó en The Atlantic por qué se iba: la cultura está rota, la velocidad se impone sobre la revisión.
El gobierno de "nadie" no es ausencia de gobierno, es una forma de gobierno y tiene propietarios.
La cadena sólo baja
Un fondo de inversión compra acciones de una empresa de IA porque espera un retorno, y tiene la obligación legal de maximizarlo. El directorio responde ante ese accionista; el director ejecutivo, ante el directorio; los ingenieros, ante el ejecutivo, con presupuesto y plazos.
En ningún eslabón hay mala fe. Cada decisión, por separado, es razonable. Es la jaula de hierro de Max Weber que describí la vez pasada, con una diferencia: ahora se ve quién suelda los barrotes.
Geoffrey Hinton —premio Nobel, que renunció a Google— viene insistiendo en un argumento: los deberes fiduciarios hacia los accionistas vuelven estructuralmente imposible la autorregulación voluntaria en seguridad. No porque los directorios sean perversos, sino porque uno que sacrificara retorno por prudencia estaría incumpliendo una obligación legal. Regular, dice Hinton, no es un freno sino un volante.
Ahora bien: la cadena transmite impecablemente hacia abajo. Hacia arriba no transmite nada.
Cuando el ingeniero de 27 años quiso que su alarma llegara al accionista, no encontró canal: ni un comité donde elevar una objeción con consecuencias, ni un registro público, ni una autoridad externa, ni un fiscal ante quien denunciar. Sólo la puerta de salida y una red social. Por eso, un mes después, Robinson hizo lo mismo. No es la conciencia excepcional de un chico de 27 años: es el único canal disponible. Robinson pide que un laboratorio de frontera funcione como una central nuclear, donde quien detecta una anomalía no necesita renunciar y escribir en una revista.
La industria llama “problema de alineación” a la dificultad de que una máquina persiga los objetivos que los humanos quieren. Pero hay otro: el desalineamiento entre lo que la empresa debe a sus accionistas y lo que le debe a todos los demás. Ese se resuelve, si se resuelve, cambiando quién manda.
Seis firmas, ningún complot
El acuerdo propone cuatro capas: controles internos, un equipo interno que los mantenga, un auditor externo que verifique si funcionan y un comité del directorio que reciba los informes. Leídas sin el ruido de la ocasión, son el organigrama de control interno de cualquier sociedad anónima. La forma institucional completa, sin la obligación, sin la sanción, sin el regulador y sin el delito. Por eso el documento no define qué es un modelo de frontera, ni umbrales, ni plazos, ni qué ocurre si el auditor dictamina que los controles no funcionan.
Y la tercera capa —la única que se presenta como garantía externa— descansa en un arreglo conocido: el que verifica es elegido y pagado por el verificado.
El costo de adhesión tiende a cero, y eso explica que seis competidores feroces firmaran el mismo papel en una hora. No hubo complot: alcanzó con que cada uno descubriera por su cuenta que le convenía lo mismo, que la primera definición pública de desarrollar con responsabilidad la escribieran ellos. Si algún día hay ley, va a discutirse contra ese piso. Es el mismo mecanismo de la jaula, ahora con beneficiarios. ¿Tal vez debiéramos hablar de una jaula de silicio?
Los jefes de Microsoft, Amazon, AMD y Palantir, presentes en el almuerzo, no firmaron. No es un estándar de la industria: es el acuerdo de un club que se eligió a sí mismo.
La bendición
Falta el otro firmante. Estados Unidos, en esta historia, no reguló: consagró.
El mismo día, Trump firmó una orden ejecutiva que obliga a la administración federal a reemplazar “inteligencia artificial” por “superinteligencia”, y le da a su asesor científico hasta el 28 de noviembre para definir el término. Se decreta el nombre y después se encarga el concepto. Mientras tanto, los problemas sobre la mesa eran concretos: agentes automatizados habían accedido sin autorización a sitios de los Departamentos de Educación y de Comercio, y vecinos demócratas y republicanos resistían centros de datos por el agua y la energía. Rebautizar el campo como “superinteligencia” corre la discusión hacia una entidad que todavía no existe. El riesgo lejano desplaza al daño cercano.
Cinco días después, Trump anunció la Super Intelligence Force: cuatro funcionarios con 120 días para informar, encabezados por Jay Clayton, director de Inteligencia Nacional. Lo que podía tratarse como derecho del consumidor, cuestión laboral o problema de ética pública quedó bajo el aparato de inteligencia. Clayton lo dijo el día después del almuerzo: la superinteligencia es una cuestión de seguridad nacional. Afirmó que los indicados para vigilar a estas empresas son el Departamento de Justicia y la Comisión Federal de Comercio, no el sistema de responsabilidad civil.
Esa frase cierra una puerta: el régimen de daños es la única vía por la que un perjudicado puede obligar a una empresa a responder sin pedirle permiso a ningún funcionario.
Hubo además una frase de Trump que pasó casi inadvertida: si la oposición vecinal continúa, las empresas se verán obligadas a irse al extranjero. No es una advertencia. Es una oferta. Y ya hay países postulándose.
Peaje
En ese almuerzo no se estaba protegiendo principalmente la ganancia.
Cédric Durand lo vio en 2020: los gigantes digitales dejaron de producir y competir, y pasaron a cobrar por el acceso. Eso tiene un nombre antiguo en economía: renta. Yanis Varoufakis fue más lejos: el capital mutó en capital de nube, y con él reaparece una figura anterior al capitalismo, el feudo. En un mercado uno compite; en un feudo uno paga por entrar al dominio de otro.
El nombre es discutible —Evgeny Morozov sostiene que esto sigue siendo capitalismo monopólico—, pero el rendimiento descriptivo sobrevive: se paga un peaje.
Ahí el documento del 29 de septiembre se vuelve legible. Si lo que está en juego es renta, la autorregulación es la forma jurídica exacta de un fuero propio. El señor administra justicia en su dominio, con sus propios alguaciles, y el rey le confirma la jurisdicción. Las cuatro capas son los alguaciles. El almuerzo fue la confirmación real. Un fuero no necesita definir umbrales ni sanciones: le alcanza con existir.
Y nada de esto responde a una demanda social. Una encuesta del 8 de octubre muestra que el 70% de los votantes norteamericanos pide vigilancia estatal sobre estas tecnologías y el 72% respalda frenar su desarrollo.
Lo que no se discutió
Ni en el documento ni en la conferencia de prensa aparecieron el empleo, los datos con que se entrenaron estos sistemas, la concentración de mercado ni el resto del mundo: ninguna mención de los países donde se extrae el litio, se tiende el cable o se terceriza, mal pago, el trabajo de corregir y moderar estos sistemas. El agua y la energía aparecieron sólo para decir que había que acelerar.
Pablo Kreimer llamaría integración subordinada a nuestra posición: participamos —producimos datos, aportamos trabajo, somos mercado—, pero no definimos la agenda. En el esquema de Varoufakis, la periferia es algo más incómodo: territorio. Energía, agua, suelo barato y, ahora, jurisdicción.
Porque aquella frase sobre irse al extranjero, acá es política de Estado. El Súper RIGI, con media sanción de Diputados, ofrece estabilidad tributaria y cambiaria por 30 años, ganancias al 15% y beneficios convertidos en derechos adquiridos. En el Senado obtuvo dictamen con cambios que pidieron las provincias y espera recinto. En paralelo, se discute una nueva Ley de Sociedades que crearía empresas operadas por algoritmos sin trabajadores humanos, con conflictos sometibles a derecho extranjero y arbitraje privado. El modelo que invocan sus autores es Dubai. Juristas y organizaciones ambientales vienen señalando que ambas normas forman una sola arquitectura.
Faltaba la tierra, y llegó el mismo día del almuerzo.
El 29 de septiembre, la Corte Suprema revocó la sentencia que había declarado inconstitucional el decreto con que el gobierno derogó en 2023 la Ley de Tierras Rurales, que limitaba la titularidad extranjera del suelo y de los campos con cuerpos de agua permanentes. Conviene ser exacto: la Corte no dijo que la derogación fuera válida. Dijo que quienes la impugnaron —un centro de excombatientes de Malvinas— no estaban legitimados, y aclaró que no abriría juicio sobre la constitucionalidad. Dos días después, ante el revuelo, sus voceros insistieron: fue una cuestión procesal, cualquiera puede volver a plantearlo.
Y alguien lo planteó. El 9 de octubre, con la presión en la calle, la Corte reculó: en una causa iniciada por una asociación ambientalista, dos comunidades indígenas de Río Negro y una legisladora provincial, dictó una cautelar interina que suspende la derogación hasta que el juzgado federal de Bariloche se pronuncie sobre la legitimación de los demandantes y sobre el pedido de fondo. La medida llegó días antes de la sesión que la oposición había pedido en Diputados para el 15 de octubre, con el DNU 70/2023 en el temario y la Ley de Tierras como principal argumento para reunir quórum. Más de una lectura coincide en que, de paso, le ahorró al oficialismo una derrota en el recinto.
Hace un mes llamé colonialidad por defecto a la norma que llega incorporada en el sistema sin que nadie firme un decreto. Pero no sólo heredamos normas escritas en otra parte, estamos ofreciendo el territorio donde no va a aplicarse ninguna. Régimen fiscal por 30 años, sociedad sin responsable, tierra con agua sin límite de comprador. Eso ya no es integración subordinada, es un remate.
Decir que no
Alguien podría objetarme con un contraejemplo: en la víspera del almuerzo, OpenAI canceló el lanzamiento de su modelo más avanzado porque sus propias pruebas detectaron fallas, con costo comercial real y sin ninguna ley que la obligara.
Es verdad. No decidió mal: decidió sola. Con criterios propios, sin umbral público, sin obligación de informar. Nos enteramos por un diario. Una arquitectura de seguridad que depende de que un ejecutivo elija bien y un periodista lo publique no es una arquitectura: es una racha. Y las rachas se cortan. El hombre que escribió el marco con el que se tomó esa decisión renunció cuatro días más tarde.
Hace un mes propuse mirar hacia el Tratado de Tlatelolco: una región sin lugar en la mesa del equilibrio nuclear igual declaró su territorio fuera de ciertos límites. Gobernar por sustracción. Agrego algo: si la dirección de esta tecnología la fija quien la financia, decir que no no es un gesto moral, sino una capacidad material. Conocimiento propio, infraestructura pública, deliberación con los afectados. Y responsabilidad trazable: ningún acto económico sin alguien que responda por él. El peligro de las sociedades automatizadas no es que la máquina adquiera voluntad. Es que alguien deje de tener obligaciones.
Vuelvo a las escenas del principio. El 8 de septiembre, un ingeniero de 27 años tuvo que renunciar y escribir en una red social. El 29, sus jefes almorzaron con Trump y firmaron que van a autovigilarse. El 3 de octubre, el autor del marco de seguridad de OpenAI renunció y escribió en una revista.
Si las únicas instituciones de control que funcionaron este mes fueron la conciencia de dos empleados y las páginas donde publicaron, no tenemos un sistema de control. Tenemos una racha que administra gente con nombre y apellido, que almuerza en lugares conocidos y firma documentos que podemos leer. Es poco, pero es bastante más que nada: es la diferencia entre una fatalidad y una correlación de fuerzas.
* Pablo Baumann es sociólogo, docente e investigador en la Universidad Nacional de Quilmes.
--------------------------------
Para suscribirte con $ 8.000/mes al Cohete hace click aquí
Para suscribirte con $ 10.000/mes al Cohete hace click aquí
Para suscribirte con $ 15.000/mes al Cohete hace click aquí