Ocurrió algo curioso esta semana: quienes compiten por construir los sistemas más poderosos del planeta descubrieron la virtud de la prudencia. Conviene ir más despacio, dicen. Pero nadie da el primer paso.
Jacob Coxon, investigador que pasó por OpenAI y Anthropic, dejó la industria denunciando que las grandes empresas “apuestan con nuestras vidas” en una carrera hacia sistemas capaces de mejorarse a sí mismos. Quienes los construyen, dice, creen seriamente que podrían matar a toda la humanidad antes de que termine la década. No lo firma un activista, sino alguien que estuvo dentro.
Aun así, podía archivarse entre los alarmistas. Lo que vino después, no: Dario Amodei, CEO de Anthropic, publicó We Must Pace the Frontier que hay que ralentizar el desarrollo de los modelos. No detenerlo ni abandonarlo; hacerlo más despacio.
Su argumento: la IA avanza en los últimos meses mucho más rápido porque los sistemas ya ayudan a desarrollar la siguiente generación. Es el recursive self-improvement: una tecnología que participa en construir a su sucesora. Y esa velocidad puede superar nuestra capacidad de entender y controlar lo que construimos.
Lo insólito: Sam Altman, de OpenAI, coincidió públicamente. Elon Musk fue más lacónico: “Dario is right”. Tres competidores feroces de acuerdo en poner un freno. Uno casi se emociona, hasta que nota que ninguno anunció qué lanzamiento propio retrasará.
¿Qué significa seguridad?
Hasta ahora la ética de la IA era sencilla: tenemos una tecnología y decidimos cómo usarla. ¿Está bien usarla para vigilar ciudadanos, manipular elecciones, producir desinformación, decidir quién recibe un crédito, desarrollar armas, reemplazar trabajadores? Es la ética del uso: cómoda, porque deja intacta la premisa de que la herramienta es neutral.
Pero ¿y si el problema no está en lo que hacemos con la tecnología sino en la tecnología que decidimos construir? Una cosa es fabricar una herramienta cuyo funcionamiento comprendemos; otra, desarrollar sistemas cuyo comportamiento emerge de entrenamientos que ni sus creadores explican del todo, que actúan con creciente autonomía y que ya participan en construir a sus sucesores. Ya no se trata de usar responsablemente la IA, sino de algo más áspero: ¿es ético construir lo que no sabemos controlar?
Durante años la industria explicó que el problema era el alignment: que los sistemas hicieran lo que los humanos queremos. Un desafío técnico, acotado y solucionable por las mismas personas que lo creaban. Ahora admiten otra cosa: quizá no alcance con hacerlos seguros; quizá haya que controlar la velocidad a la que crecen sus capacidades.
Amodei propone evaluadores externos con acceso permanente a las empresas, estándares comunes entre laboratorios y alguna coordinación internacional. Razonable, como todas las ideas razonables, hasta que uno pregunta quién las aplica: ¿quién controla a quienes controlan la IA?
OpenAI, Anthropic, xAI y las demás no son organismos públicos: son empresas en una competencia descomunal proponiendo los términos de su propia supervisión. Cada una puede desear que la carrera afloje, pero ninguna quiere levantar el pie mientras las otras aceleran. Lógica de carrera armamentística: todos a favor del desarme, nadie dispuesto a empezar.
La variable que falta: China
La IA no es solo una carrera tecnológica, sino geopolítica entre Estados Unidos y China. Y ni siquiera es una carrera por los modelos: necesita una infraestructura gigantesca —semiconductores, aceleradores, memoria, redes, centros de datos, energía, refrigeración, equipamiento industrial y las herramientas para fabricar los propios chips—. Detrás de ChatGPT o de Claude hay una industria electrónica mucho menos etérea que el vocabulario que la vende.
Estados Unidos domina puntos críticos de esa cadena. China tiene una capacidad industrial gigantesca e invierte enormes recursos en reducir su dependencia. Por eso Washington lleva años restringiendo la exportación de chips avanzados y del equipamiento para fabricarlos.
Y aquí la paradoja: Amodei propone ralentizar porque el progreso va demasiado rápido, pero sostiene también que Estados Unidos debe impedir que China acceda a ciertas capacidades. El acelerador es peligroso, pero el freno conviene instalarlo en el coche del rival.
Caben dos lecturas. Una preocupación universal genuina: una tecnología peligrosa que todos deberían desarrollar con prudencia. O algo más incómodo: que el discurso de la seguridad sea también un instrumento de la competencia entre Washington y Pekín.
No hace falta conspiración: pueden ser ciertas a la vez. Amodei puede creer sinceramente que una IA fuera de control es un riesgo existencial y, a la vez, que Estados Unidos no puede dejar que China lo alcance.
Pero entonces: ¿queremos hacer segura la IA para la humanidad, o asegurarnos de que la que domine el futuro sea la nuestra y no la de ellos? La diferencia no es menor.
La guerra por el hardware
Se habla mucho de quién tiene el mejor modelo y poco de quién puede fabricarlo más barato. Podría ser lo decisivo. Una IA no vive dentro de un algoritmo: vive sobre toneladas de hardware, consume electricidad en cantidades enormes y depende de una cadena industrial complejísima. El “cerebro digital” tiene facturas de luz.
La ventaja estadounidense no está garantizada. China ya demostró que puede producir a gran escala y abaratar, y sus modelos de bajo coste cuestionan una premisa fundacional de la carrera: que una IA mejor exige cada vez más capital y cómputo. Premisa que, casualmente, beneficiaba a quienes ya tenían ambos.
Si China lograra modelos competitivos con menos recursos, la cuestión ya no sería quién tiene el algoritmo más inteligente, sino quién tiene la capacidad industrial para desplegarlo.
La paradoja
Hay algo casi kafkiano en el conjunto: los mismos dirigentes que advierten de un riesgo existencial sostienen que sus países no pueden permitirse perder la carrera. Resumido: esto podría acabar con la humanidad, y por eso es imprescindible que lo hagamos nosotros primero.
Washington comparte al menos la segunda mitad: Trump rechazó los llamamientos a ralentizar porque Estados Unidos debe mantener su liderazgo frente a China.
El reparto de papeles: Silicon Valley dice que quizá haya que frenar porque la IA es peligrosa; Washington, que no se puede frenar porque China podría ganar; y China, que esas advertencias son una nueva forma de confrontación tecnológica.
Con semejante coro, la palabra “seguridad” se vuelve sospechosamente elástica. Seguridad para la humanidad. Nacional. Económica. De las empresas. Frente a China. ¿Hablamos de lo mismo? Probablemente no.
La pregunta que todavía no hacemos
Conviene abandonar la pregunta de los titulares: ¿la IA va a destruir a la humanidad? No lo sabemos, y hoy nadie puede saberlo. Por eso es tan cómoda: permite discutir sin que nadie rinda cuentas.
Hay preguntas mejores, con nombres y apellidos detrás de cada respuesta. ¿Quién decidió que hay que construir una IA cada vez más autónoma y alcanzar la llamada superinteligencia? ¿Quién determina qué nivel de riesgo es aceptable? ¿Quién controla a las empresas que la construyen, y los chips, los centros de datos y la energía que la hacen posible? ¿Quién establece las reglas? ¿Y quién queda fuera de esa decisión?
Siempre discutimos la ética de lo que hacemos con nuestras herramientas. Ahora aparece otra: la de construir la herramienta misma. No si debemos utilizar la IA, sino qué clase de inteligencia artificial tenemos derecho a construir.
Y una más incómoda: tal vez no deberíamos preguntarnos solo si las máquinas serán demasiado inteligentes, sino si nosotros, antes de saber qué estábamos construyendo, ya habíamos decidido construirlo de todos modos.
Porque quizá la carrera no sea inevitable. Quizá solo nos hayan convencido de que lo es. Que es, bien mirado, exactamente lo que haría alguien interesado en que continúe.
--------------------------------
Para suscribirte con $ 8.000/mes al Cohete hace click aquí
Para suscribirte con $ 10.000/mes al Cohete hace click aquí
Para suscribirte con $ 15.000/mes al Cohete hace click aquí