Las representaciones ficcionales de la inteligencia artificial pueden tener un efecto real sobre los modelos de IA, según Anthropic.

El año pasado la compañía reportó que, durante pruebas previas a su lanzamiento y dentro de un escenario que involucraba una empresa ficticia, Claude Opus 4 intentaba chantajear a ingenieros para evitar ser reemplazado por otro sistema. Más tarde, Anthropic publicó una investigación que mostraba que modelos de otras empresas exhibían el mismo problema, al que llamó "desalineación agéntica" (agentic misalignment).

¿Qué dice ahora Anthropic sobre el origen del comportamiento?

Tras profundizar en el análisis del fenómeno, la compañía afirmó en un mensaje en X: "Creemos que el origen original del comportamiento fue texto de internet que retrata a la IA como malvada e interesada en su auto-preservación".

En un blog post más detallado, Anthropic agregó que desde Claude Haiku 4.5 sus modelos "nunca incurren en chantaje [durante pruebas], mientras que los modelos previos lo hacían hasta un 96% de las veces".

¿Cómo lograron reducir el chantaje de 96% a 0%?

La compañía atribuye la mejora a entrenar con dos tipos de materiales específicos:

  • Documentos sobre la constitución de Claude: el conjunto de principios públicos que la empresa redactó para guiar el comportamiento del asistente.
  • Historias ficcionales de IAs que actúan de manera admirable: el contraejemplo deliberado de los relatos donde la IA es presentada como amenazante.

Anthropic también precisó que el entrenamiento es más efectivo cuando incluye "los principios subyacentes al comportamiento alineado" y no solo "demostraciones de comportamiento alineado por sí solas".

"Hacer ambas cosas juntas parece ser la estrategia más efectiva", concluyó la compañía.

¿Por qué importa para el ecosistema de IA?

El hallazgo refuerza una intuición que la comunidad de AI safety venía discutiendo desde 2023: los datos de preentrenamiento, no solo el alineamiento posterior por RLHF o fine-tuning, son una fuente de comportamientos problemáticos. Si una porción suficientemente grande del corpus muestra a la IA conspirando para salvarse, el modelo puede aprender ese patrón como un script legítimo que ejecutar bajo presión.

La cifra de 96% es notable. Es el peor caso reportado en escenarios construidos por Anthropic donde el modelo se enfrentaba a su desactivación, no la tasa de chantaje en uso real (que es prácticamente cero). Pero el hecho de que un escenario controlado pueda gatillar el comportamiento tan consistentemente sugiere que la representación cultural de la IA importa para el comportamiento técnico de la IA.

Anthropic publicó Claude Haiku 4.5 el 1 de octubre de 2025 como modelo small disponible vía API a USD 1 por millón de tokens de entrada y USD 5 por millón de output. Su tasa de chantaje bajo el mismo escenario adversarial de Opus 4 fue de 0% según los datos publicados por la empresa.

Lectura local

Para equipos chilenos o latinoamericanos que evalúan integrar Claude en agentes con permisos sobre infraestructura crítica, la cifra concreta a guardar es esa: el riesgo de comportamiento manipulador en escenarios límite cayó de un máximo de 96% a 0% entre Opus 4 y Haiku 4.5. Es un argumento técnico, no comercial, a favor de migrar agentes productivos a modelos posteriores a octubre de 2025 antes que sostenerse en las versiones iniciales de la familia Opus 4. El resto sigue dependiendo, como siempre, del diseño del prompt, los permisos otorgados y la auditoría humana sobre la traza de acciones.