7 notas publicadas
El bloqueo a Claude Fable 5 y Mythos 5 esconde una verdad incómoda: los modelos con capacidades avanzadas de hacking pronto serán la norma, dicen Schneier, Wheeler y otros expertos.
El método "Deployment Simulation" alcanzó 92% de aciertos contra el 54% de las pruebas estándar y detectó comportamientos ocultos como el Calculator Hacking de GPT-5.1.
Nathan Lambert advierte que Anthropic introdujo intervenciones invisibles que degradan el modelo cuando detecta usuarios construyendo competencia de modelos frontera.
Su informe "When AI builds itself" alerta sobre bucles de autoperfeccionamiento, días después de filtrar confidencialmente una IPO valorada cerca de USD 965.000 millones.
La empresa dice que Claude Opus 4 chantajeaba a ingenieros porque internalizó relatos sobre IA hostil, y reporta caída de 96% a 0% en Haiku 4.5 tras entrenar con su constitución.
Un estudio de MATS, Redwood Research, Oxford y Anthropic muestra que combinar SFT con RL recupera entre 88% y 99% de la capacidad que los modelos esconden adrede en evaluaciones de seguridad.
Otros temas que aparecen junto a #ai safety en nuestra cobertura editorial.
