La industria de la inteligencia artificial arrancó este miércoles sacudida por una renuncia que se volvió viral en horas. Jacob Coxon, un investigador de Anthropic de 27 años, dejó la compañía este martes 8 de septiembre y lo anunció en X con una advertencia extrema. Según él, quienes construyen estos sistemas creen en privado que la IA «podría matarnos a todos antes de que acabe la década». Su hilo acumuló más de 70 millones de visualizaciones en una sola noche, según publicó El País.
Coxon no es una figura menor del sector. Pasó tres años haciendo investigación de preentrenamiento, primero en OpenAI y después en Anthropic, la creadora del asistente Claude. Su denuncia apunta a dos cosas. Primero, al peligro en sí mismo. Pero sobre todo a que las decisiones quedaron en muy pocas manos, y esas manos solo piensan en llegar primero.
El jefe que salió a darle la razón
Lo más inquietante no fue la renuncia sino el respaldo que recibió. Evan Hubinger, responsable de la investigación en alineación de Anthropic, lo bancó en público. La alineación es la disciplina que busca que los modelos hagan solo lo que los humanos les piden. «¡De verdad creemos que la IA puede matar a todo el mundo!«, escribió Hubinger en X. Además le puso un número al miedo: para él, la probabilidad de una catástrofe supera el 10% en la próxima década.
Hubinger aclaró un matiz importante. El riesgo de los modelos actuales, dijo, es bajo. Lo que lo preocupa es la superinteligencia surgida de la automejora recursiva, que según él avanza más rápido de lo que se pensaba. Ese escenario funciona como un árbol genealógico exprés: los modelos existentes entrenan a los siguientes, y cada generación supera a la anterior casi sin intervención humana. Los científicos del sector le ponen un porcentaje a ese temor, el llamado «p doom». El 10% de Hubinger es un valor alto para los estándares de la industria tecnológica.
Una carrera que nadie quiere frenar
El investigador de Anthropic también marcó diferencias entre sus dos exempleadores. En OpenAI, sostuvo, muchos no dimensionan lo que está en juego a escala de civilización. En Anthropic sí lo entienden, pero quedaron atrapados en la carrera por llegar antes. Coxon rechazó además la lectura de que todo esto sea marketing para atraer inversión. Al contrario: aseguró que los directivos miden sus palabras ante la prensa, aunque en privado expresan miedo.
La renuncia llega en la antesala de una salida a bolsa récord
El momento no podría ser más delicado para Anthropic. La empresa prepara su salida a bolsa para octubre, con una valuación objetivo cercana a los US$ 2 billones, que la convertiría en la mayor OPI de la historia. En mayo, una ronda privada ya la había valuado en unos US$ 965.000 millones. Por eso la renuncia incomoda tanto: la imagen de compañía obsesionada con la seguridad es central en su discurso ante los inversores. Su CEO, Dario Amodei, había advertido en enero que «en 2026 estamos bastante más cerca del peligro real de lo que lo estábamos en 2023«.
Lo que viene ahora se juega en dos tableros. En el financiero, habrá que ver si la advertencia pesa sobre la salida a bolsa de octubre o si el apetito inversor la pasa por alto. En el técnico, la pregunta es si otros científicos siguen el mismo camino. La duda que dejó planteada el investigador de Anthropic es la más incómoda de todas: si quienes construyen estos sistemas creen de verdad que pueden terminar con la humanidad, ¿por qué ninguno se detiene?