Por Ismael Leyva

Hay renuncias que son un portazo. Y hay renuncias que son una alarma de incendio. La de Jacob Coxon es de las segundas.

El 8 de septiembre, un investigador de 27 años dejó Anthropic —la empresa que hizo de la “IA segura” su marca registrada— y publicó un hilo que en menos de 48 horas acumuló más de cien millones de vistas. Su mensaje no fue sofisticado. Fue brutal: “Ninguna de las dos empresas actúa con responsabilidad. Están avanzando a toda velocidad hacia la superinteligencia auto-mejorada y jugando con nuestras vidas.” Y luego, la frase que debería incomodarnos a todos: dentro de los laboratorios ya no se habla de progreso. Se habla de crunchtime. Se habla de endgame.

Endgame. Como si la humanidad fuera una partida de ajedrez y alguien, en algún cuarto sin ventanas de San Francisco, estuviera calculando el jaque mate.

Lo que sabemos y lo que nos quieren hacer creer que sabemos

Coxon no es un iluminado de Twitter ni un teórico de la conspiración disfrazado de ingeniero. Trabajó tres años en investigación de preentrenamiento, primero en OpenAI, después en Anthropic. Y aquí viene el dato que debería pesarle a cualquier escéptico: renunció dos meses antes de que le vencieran sus acciones. Se fue sin cobrar. “Ya no tengo nada que ganar inflando la valuación de Anthropic”, dijo a Axios. Quien miente por dinero, cobra primero. Él no cobró.

¿Eso lo hace infalible? No. ¿Lo hace honesto? Probablemente. ¿Lo hace tener la razón sobre el futuro de la especie? Esa es otra pregunta, y nadie —ni él, ni Sam Altman, ni el consejo de Anthropic, ni quien esto escribe— tiene derecho a responderla con la certeza con la que la están respondiendo.

Porque ahí está el problema de fondo: los mismos que construyen la tecnología son los únicos que dicen entender sus riesgos, y son juez y parte al mismo tiempo. Evan Hubinger, el responsable de alineación de Anthropic, salió a respaldar parcialmente a Coxon: dice que hay más de 10% de probabilidad de una amenaza existencial en la próxima década. Diez por ciento. Deténganse en esa cifra. Si un ingeniero les dijera que el puente que van a cruzar tiene 10% de probabilidad de colapsar, ¿lo cruzarían? Y sin embargo la respuesta corporativa no es frenar. Es aclarar que los modelos actuales son seguros; pero nadie habla de los del futuro.

Los pros de la carrera: cuando el argumento suena razonable

No seamos maniqueos. Hay un argumento serio para seguir corriendo, y merece decirse sin sarcasmo.

Este mismo año, mientras el hilo de Coxon se viralizaba, OpenAI anunció que un modelo interno llamado Astra había resuelto o avanzado sustancialmente en diez problemas matemáticos abiertos desde hacía más de una década, en áreas como geometría de alta dimensión, teoría de grupos y criptografía de retículas. No fue una promesa vacía: publicaron 249 páginas de argumentos, 62 páginas de notas de razonamiento y certificados verificables en Lean, el lenguaje que permite comprobar matemáticamente, paso a paso, que una demostración no tiene huecos. Costo total en cómputo: menos de dos mil dólares.

Y apenas unos días después, la misma empresa afirmó haber resuelto uno de los siete Problemas del Milenio —el de existencia y suavidad de las ecuaciones de Navier-Stokes, sin resolver desde hace noventa años— usando diez mil agentes de IA coordinados durante 88 horas. Antes de eso, en enero, OpenAI y la startup Harmonic ya habían resuelto en conjunto un problema de Erdős. Y en abril, un aficionado británico de 23 años sin título en matemáticas, llamado Liam Price, le planteó a un modelo de lenguaje el problema 1196 de Erdős —uno que un matemático de Stanford llevaba siete años estudiando— y obtuvo una demostración plausible en ochenta minutos.

Ochenta minutos. Siete años de un doctor en Stanford, comprimidos en el tiempo que toma ver una película.

Esto es real. No es ciencia ficción ni marketing barato: es matemática verificable, con certificados que cualquier experto puede auditar. Y plantea la pregunta incómoda para los escépticos del progreso: si esta tecnología puede democratizar el acceso al descubrimiento científico —si un joven sin credenciales puede tocar un problema centenario y moverlo—, ¿no seríamos irresponsables nosotros si exigiéramos detener el desarrollo por completo?

Ese es el argumento a favor. Es honesto. Y no debe descartarse con desdén.

Los contras: el mismo progreso, leído distinto

Pero miremos la misma foto con otra luz.

El anuncio de Navier-Stokes vino acompañado de una sospecha incómoda: según el Wall Street Journal, OpenAI decidió apurar a su modelo después de tener indicios de que dos investigadores humanos —Levent Alpöge, de Anthropic, y Tristan Buckmaster, de NYU— ya estaban cerca de resolver el problema por su cuenta. Es decir: la carrera no fue entre la IA y un problema abierto. Fue entre una empresa y otros seres humanos que llevaban años trabajando honestamente, a quienes de pronto una máquina con diez mil agentes y presupuesto ilimitado les arrebató la meta en la última vuelta.

Y no es la primera vez. Cuando OpenAI y Harmonic anunciaron en enero que habían resuelto un problema de Erdős, varios matemáticos señalaron que la solución no era muy distinta del trabajo humano previo. Traducción amable: la IA no descubrió el camino. Lo terminó de pavimentar sobre planos que alguien más ya había dibujado, y se quedó con el crédito del titular.

¿Es eso un delito? No. ¿Es una forma limpia de medir el “progreso”? Tampoco. Y si esto ocurre con las matemáticas —donde existe Lean, existe la verificación formal, existe una comunidad que audita cada paso—, ¿qué garantías tenemos de que la misma prisa, la misma opacidad, el mismo instinto de anunciar primero y explicar después, no se está aplicando a decisiones que no se pueden verificar con un certificado? A decisiones sobre seguridad. Sobre control. Sobre lo que Coxon llama, sin metáfora, “jugar con nuestras vidas”.

La pregunta que toca hacernos

¿A quién le rinden cuentas estas empresas?

No a un regulador, porque los reguladores llegan tarde y entienden menos que quienes regulan. No al mercado, porque el mercado premia al primero que llega, no al más prudente. No a la ciudadanía, porque la ciudadanía se entera por un hilo de Twitter, no por un mecanismo de rendición de cuentas. Se rinden cuentas, en el mejor de los casos, a sí mismas. Y una empresa que se audita a sí misma es, para efectos prácticos, una empresa que no rinde cuentas a nadie.

Coxon propone algo modesto y por eso mismo revelador de la gravedad del momento: acuerdos de pausa entre laboratorios, algo tan básico como que los que compiten se sienten a decir “bajemos la velocidad juntos”. Si ni siquiera eso ha sido posible, ¿qué nos dice eso del tamaño real del problema? Cuando los que construyen el arma no pueden ponerse de acuerdo para dejar de apuntar, el resto de nosotros no somos espectadores. Somos el blanco.

No sabemos si Coxon tiene razón sobre el fin del mundo. Nadie lo sabe, y quien te diga lo contrario —a favor o en contra— te está vendiendo una certeza que no le corresponde. Lo que sí sabemos, porque está documentado, es esto: una persona con acceso directo a dos de los laboratorios más poderosos del planeta decidió que valía más advertir que callar, y pagó el precio de lo que ello pueda significar para ésta persona. Eso, en un mundo donde casi todos los que saben algo prefieren el silencio bien remunerado, ya es una noticia. Que además tenga razón o no sobre el endgame, lo dirá el tiempo. Lo que no debería esperar el tiempo es la pregunta de fondo: si el 10% de probabilidad de catástrofe existencial que reconoce el propio jefe de alineación de Anthropic fuera sobre un avión, un medicamento, ¿seguiría operando sin que nadie externo lo supervisara? La respuesta, me temo, ya la conocemos. Y no nos gusta