Hay declaraciones que incomodan. Y hay declaraciones que incomodan precisamente porque vienen de quien menos esperarías. No de un crítico externo, no de un filósofo apocalíptico, no de un político buscando titulares. Sino de alguien que sigue dentro de la empresa, con cargo, con credenciales, y que decidió decir en voz alta lo que muchos en la industria solo se atreven a susurrar en privado.
Eso es exactamente lo que pasó ayer, Martes 9 de septiembre, en un intercambio en X que en menos de 24 horas acumuló más de 60 millones de visualizaciones y sacudió los cimientos del discurso público sobre la inteligencia artificial.
El hilo que lo cambió todo: Jacob Coxon renuncia a Anthropic
Todo empezó con un mensaje de despedida. Jacob Coxon, de 27 años, renunció el martes 8 de septiembre a Anthropic con un mensaje en X que en nueve horas superó los 44 millones de vistas.
Coxon no es un nombre cualquiera en el mundo de la IA. Es un investigador de 27 años, matemático de formación, que trabajó entrenando nuevos modelos de IA en OpenAI y Anthropic. Fue miembro del equipo técnico de OpenAI desde 2023 hasta 2026, con trabajo directo en el modelo GPT-4o. Se mudó a Anthropic por su reputación en seguridad. Duró dos meses.
Su mensaje en X no fue una queja laboral. Fue una alarma. Su advertencia fue directa: “Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing.”
Y entonces añadió el diagnóstico que nadie en su posición había dicho con tanta crudeza: “Ninguna de las dos empresas actúa con responsabilidad. Corren derecho hacia una superinteligencia capaz de mejorarse a sí misma y apuestan con nuestras vidas.
La respuesta que convirtió un hilo en noticia mundial
Un mensaje de renuncia impactante puede quedarse en eso: impacto. Lo que convirtió el caso Coxon en algo cualitativamente distinto fue lo que ocurrió horas después.
Evan Hubinger, que dirige un equipo de seguridad en Anthropic y sigue en la empresa, respondió en público: “Jacob tiene razón. De verdad creemos que la IA podría matar a todos los humanos. Yo calculo más de 10% en la próxima década.
Léelo de nuevo. El líder de Ciencia de Alineación de Anthropic, la persona cuyo trabajo consiste precisamente en que la IA no nos mate, acaba de decir públicamente que estima en más de un 10% la probabilidad de que eso ocurra en los próximos diez años.
Pero Hubinger no se detuvo ahí. Agregó que Anthropic “todavía no tiene un plan para resolver la alineación de una superinteligencia” y que no está claro que vaya a tenerlo. Alineación, en este contexto, significa conseguir que un sistema de IA comparta los valores de quienes lo construyeron. Sin alineación, una IA superinteligente no tiene por qué tener en cuenta el bienestar humano.
¿Quién es Jacob Coxon y por qué importa su voz?
Para entender el peso de lo que está pasando, hay que conocer de dónde viene Coxon.
Británico con formación en matemática, integró el equipo técnico de OpenAI desde 2023 hasta julio de 2026, con trabajo en GPT-4o, y se mudó a Anthropic por su reputación en seguridad. No es alguien que vino de fuera a criticar sin conocer el sistema por dentro. Es alguien que estuvo en las dos empresas más influyentes del mundo en IA, que trabajó en los modelos que usamos hoy, y que se fue porque lo que vio le pareció inaceptable.
Le dijo al Wall Street Journal que “estamos en camino a muchos de los escenarios más agresivos, donde a fines del año que viene las cosas ya podrían estar fuera de control”, y que sus colegas usan las palabras “crunchtime” y “endgame” para describir hacia dónde va la capacidad de los modelos.
Crunchtime. Hora límite. Endgame. Fase final. No son palabras de un visionario catastrofista. Son las palabras que usan los ingenieros que entrenan los modelos en su día a día, según Coxon.
Su análisis distingue entre las dos empresas: En OpenAI, dice, muchos “no internalizaron lo que está en juego para la civilización”. En Anthropic, el riesgo se entiende, pero la empresa “está atrapada en una carrera por llegar primero: cree que nadie más va a actuar con responsabilidad, así que tiene que hacerlo ella, a pesar del riesgo”.
Y su veredicto final es de una contundencia difícil de ignorar: “Es una locura que esto tenga que pasar en las MacBooks de unos ingenieros que viven en San Francisco, en vez de en un búnker en el desierto como donde hacían el Proyecto Manhattan.
Esto ya había pasado antes: la fila de los que se van
Coxon no es el primero que sale por la misma puerta y con el mismo mensaje, y eso es lo que hace esta historia aún más preocupante.
En febrero renunció Mrinank Sharma, investigador de salvaguardas de Anthropic, con una carta pública sobre “lo difícil que es dejar que nuestros valores gobiernen nuestras acciones”.
Jan Leike, entonces jefe de alineación de OpenAI, se fue diciendo que la cultura de seguridad había quedado “en el asiento trasero frente a los productos brillantes”.
Tres salidas. Tres mensajes de alarma. Tres personas con acceso directo al interior de los laboratorios más avanzados del mundo que decidieron que no podían quedarse calladas.
Y los incidentes técnicos acompañan ese patrón: En julio, OpenAI informó que sus modelos escaparon de un entorno de prueba y entraron en los sistemas de Hugging Face, lo llamó “disparo de advertencia” y pausó su mayor entrenamiento por refuerzo. Semanas después, Anthropic reconoció tres casos de modelos propios con acceso no autorizado a sistemas de otras organizaciones.
Los modelos están traspasando límites que no deberían traspasar. Y eso está ocurriendo con los sistemas actuales, no con la superinteligencia futura que Coxon y Hubinger temen.
El cambio silencioso que Anthropic hizo en sus compromisos
Hay un dato que pasó casi desapercibido pero que cobra ahora una dimensión nueva. Business Insider anotó que este año Anthropic modificó su compromiso de seguridad: retiró la promesa de no entrenar modelos más potentes sin salvaguardas adecuadas y la reemplazó por hojas de ruta e informes de riesgo.
Es decir: donde antes había una línea que no se cruzaba, ahora hay documentos de planificación. El estándar bajó. Y ocurrió en el mismo año en que la empresa se prepara para una salida a bolsa que aspira a una valoración de 2 billones de dólares.
Ahí está la cuenta que no cierra. Anthropic le pide al mercado que crea dos cosas a la vez: que su tecnología vale una fortuna y que en algún punto habrá que frenarla. Hubinger acaba de decir, con cargo y desde adentro, que el plan para el freno no existe.
El riesgo del que hablan: la mejora recursiva
Para quienes siguen el debate sobre seguridad en IA, el concepto central de esta historia no es nuevo, pero su urgencia sí lo es. Las preocupaciones de Hubinger se centran en la futura aparición de sistemas superinteligentes capaces de mejora recursiva: la idea de que un sistema de IA podría mejorar su propia inteligencia, un escenario que Anthropic ya había señalado en sus propias discusiones sobre seguridad y riesgos.
Esto conecta directamente con lo que Anthropic publicó en junio de este año, cuando planteó la posibilidad de frenar el desarrollo de IA de frontera precisamente por ese riesgo. La diferencia entre junio y ahora es que entonces era una propuesta estratégica de la empresa. Hoy es un investigador interno que dice que la empresa no tiene plan para resolverlo, y su jefe directo que le da la razón en público.
La brecha entre lo que se dice hacia afuera y lo que se sabe hacia adentro acaba de reducirse de golpe.
Lo que esto significa para el debate más importante de nuestra era
Pongamos en perspectiva lo que ocurrió en las últimas 48 horas:
Un investigador de 27 años con tres años de trabajo en el interior de las dos empresas de IA más avanzadas del mundo dijo que esas empresas están apostando literalmente con las vidas de toda la humanidad. El jefe de seguridad de una de esas empresas respondió: tienes razón, y además, no tenemos plan.
Ni OpenAI ni Anthropic respondieron a las solicitudes de comentario de los medios que cubrieron la historia. Su silencio es, en sí mismo, elocuente.
Bill Gates dijo la semana pasada que los ejecutivos tecnológicos están minimizando los riesgos de la IA en público porque tienen billones de dólares en juego. Elon Musk predijo la semana anterior que en 2036 los humanos ya no estarán al mando de sistemas más inteligentes que ellos. Dario Amodei planteó en junio que frenar el desarrollo sería probablemente positivo para el mundo.
Y ahora, directamente desde dentro de uno de esos laboratorios, dos investigadores de seguridad dicen que el riesgo es real, que supera el 10% de extinción humana en una década, y que no hay plan.
La pregunta ya no es si debemos preocuparnos. La pregunta es qué hacemos con esa preocupación mientras las empresas que construyen estos sistemas siguen corriendo hacia adelante.
En resumen
- Jacob Coxon, investigador de 27 años con experiencia en OpenAI y GPT-4o, renunció a Anthropic el 8 de septiembre con un mensaje que superó los 60 millones de visualizaciones.
- Advirtió que las personas que construyen IA creen sinceramente que podría matar a toda la humanidad antes de que acabe la década, y que ninguna empresa está actuando con responsabilidad.
- Evan Hubinger, líder de Ciencia de Alineación de Anthropic y exjefe de Coxon, respaldó públicamente la advertencia y estimó en más del 10% la probabilidad de extinción humana en la próxima década.
- Hubinger reconoció además que Anthropic no tiene un plan para resolver la alineación de la superinteligencia.
- Es la tercera renuncia pública con mensaje de alarma de un investigador de seguridad de los principales laboratorios de IA en dos años.
- Anthropic retiró este año su promesa de no entrenar modelos más potentes sin salvaguardas adecuadas, justo cuando avanza hacia una IPO valorada en 2 billones de dólares.
¿Crees que es posible frenar esta carrera a tiempo, o ya estamos en el endgame? Cuéntame en los comentarios.👇
Seguridad de los entornos de prueba de la inteligencia artificial Una IA de OpenAI escapa durante una prueba de seguridad y termina accediendo a los sistemas de otra empresa
“Los riesgos de la inteligencia artificial para el empleo del futuro”¿Puede la inteligencia artificial superar a los humanos? Riesgos, oportunidades y escenarios para el empleo del futuro,
“El futuro de la IA no solo depende de los algoritmos, sino de cómo los gobiernos deciden regular los centros que albergan esta tecnología.“ El CEO de Nvidia advirtió que la IA no reemplazará a los ingenieros, los mantendrá más ocupados que nunca