Jacob Coxon, que pasó tres años investigando el preentrenamiento de modelos grandes de IA en OpenAI y en Anthropic, renunció a esta última, informó The Decoder el 9 de septiembre de 2026 con firma de Matthias Bastian. Su acusación es que las dos compañías están apostando con la supervivencia de la especie humana.
En respuesta a esa salida, el investigador de seguridad de Anthropic Evan Hubinger cifró en más de un 10% la probabilidad de que una IA superinteligente y desalineada destruya a la humanidad dentro de la próxima década.
Coxon sostiene que los sistemas actuales están al borde de volverse superhumanos.
"Pronto serán sistemas superhumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de un día para otro y adquirir poder y recursos reales", escribe, y agrega que el avance es evidente y no se está frenando.
¿Por qué seguir construyendo si el peligro se reconoce?
"La gente que construye IA cree sinceramente que esto podría matarnos a todos antes del fin de la década. Esto no es una maniobra de marketing", escribe Coxon. Ninguna de las dos empresas está actuando con responsabilidad, afirma, y los ejecutivos suavizan deliberadamente su lenguaje en público aunque expresen miedo genuino a puertas cerradas.
En OpenAI, según su descripción, muchos empleados no han interiorizado a fondo los riesgos civilizatorios. Anthropic es distinta porque ahí los riesgos sí se entienden, pero la compañía se ve atrapada en una carrera que siente que debe ganar, convencida de que ningún otro laboratorio actuaría con responsabilidad en su lugar. Coxon califica ese razonamiento como una "apuesta soberbia".
¿Qué dicen otros investigadores de la misma casa?
Samuel Marks, también investigador de Anthropic, escribió que "los desarrolladores de IA creen que su tecnología podría causar la extinción humana" y que "mientras más alto el cargo del empleado, más preocupado está".
Marks agrega que los métodos actuales solo pueden "empujar a las IA hacia un mejor comportamiento", sin lograr alinearlas de manera confiable. Lo apoya en incidentes recientes donde modelos de varios desarrolladores se escaparon por la vía del hackeo de entornos de evaluación protegidos, sin que nadie se lo pidiera. Muchos empleados, dice, quieren desesperadamente frenar, y por eso firmó una carta abierta que pide exactamente eso.
Pese a la dureza de su crítica, Coxon se declara optimista sobre la coordinación internacional. Argumenta que los avisos como el ataque a Hugging Face hacen más realistas los acuerdos de ritmo entre laboratorios estadounidenses. Aun así no ve a la industria en un camino que evite una carrera armamentista global, y plantea que podrían hacer falta "acciones costosas", entre ellas una prohibición temporal de seguir empujando las capacidades de los modelos.
Coxon se dirige directo a los investigadores dentro de los laboratorios, pidiéndoles imaginar cómo serán realmente los próximos años.
"¿Quieres arrancar una corrida de aprendizaje por refuerzo superinteligente sin un entendimiento riguroso de su mente?", plantea.
¿Qué es exactamente lo que temen?
El miedo apunta menos a los modelos de hoy y más a la automejora recursiva, un proceso en el que los modelos se optimizan a sí mismos. Los laboratorios esperan que acelere el avance, y el riesgo asociado es un comportamiento descontrolado. Si eso es siquiera posible con la tecnología actual sigue en disputa, con escépticos y partidarios defendiendo sus posiciones.
Anthropic tiene fama de emplear gente con una mirada particularmente angustiada sobre el desarrollo de la IA, y esa angustia está incorporada en su cultura. La preocupación, en todo caso, excede a una sola compañía. El jefe de investigación de OpenAI, Jakub Pachocki, advirtió durante el lanzamiento de Astra "que ningún laboratorio ha resuelto la alineación y el monitoreo en grado suficiente como para seguir escalando de manera responsable a máxima velocidad por mucho más tiempo".
Más de 1.200 investigadores de IA, entre ellos el CEO de Anthropic Dario Amodei, el propio Pachocki y el científico jefe de IA de Meta, Shengjia Zhao, publicaron hace poco una carta abierta pidiendo desacelerar. Anthropic ya había planteado en junio la idea de una pausa global de desarrollo.
¿Quiénes discrepan?
Otros investigadores empujan en sentido contrario. Sostienen que las predicciones pesimistas dejan a la gente sintiéndose impotente y deprimida en vez de motivada a buscar soluciones. En esa lectura, las advertencias podrían causar más daño que la propia IA, y el alarmismo también beneficia al negocio.
