Andy Jassy, CEO de Amazon, junto con ejecutivos de otras compañías tecnológicas, llevó directamente a altos funcionarios de la administración Trump preocupaciones sobre los riesgos de seguridad del modelo Fable de Anthropic. La movida es llamativa porque Amazon es uno de los inversionistas más grandes de Anthropic y los modelos de la firma corren sobre los chips de IA de Amazon Web Services, entre otra infraestructura. Que un inversionista mayoritario denuncie a una de sus empresas en cartera ante el gobierno es, como mínimo, inusual.
De acuerdo con reportes de The Information y Axios, el jueves por la noche Amazon entregó al gobierno un informe que mostraría cómo partes del modelo Fable se pueden desbloquear mediante jailbreaking.
"Como proveedor líder de servicios cloud que sirve a un gran número de clientes públicos y privados, no es inusual que los gobiernos busquen nuestra opinión sobre potenciales riesgos de seguridad", dijo un vocero de Amazon a Axios.
Cinco empresas más y una respuesta del gobierno en horas
Según Axios, al menos cinco empresas además de Amazon contactaron a funcionarios de alto nivel del gobierno el jueves por la noche y el viernes por la mañana. El Director Nacional de Ciberseguridad, Sean Cairncross, convocó una reunión con altos funcionarios de la Casa Blanca. Durante horas, el gobierno intentó convencer a Anthropic de retirar el modelo voluntariamente. Anthropic se negó. La Casa Blanca recién envió la orden oficial de control de exportación a las 17:20 ET, dándole a la compañía solo 90 minutos para cumplir. A las 22:00 ya estaba cerrado.
La experta en ciberseguridad Katie Moussouris, que revisó el informe de Amazon a pedido de Anthropic, calificó la respuesta del gobierno como salvajemente desproporcionada. Lo que Amazon señaló no es jailbreak, dijo: es solo "Defense Oriented Prompting" (DOP), una técnica usada por defensores, no por atacantes. "Si la seguridad nacional es el objetivo, esto es un autogol", escribió en LinkedIn.
¿Qué hay realmente detrás del mensaje de la Casa Blanca?
Una fuente le dijo a Axios que la escalada pudo tener menos que ver con el riesgo de seguridad real que con la relación más amplia entre Anthropic y el gobierno estadounidense. A los funcionarios les molestó lo que vieron como una "falta de seriedad" en el manejo del lanzamiento de Fable. La restricción de exportación llegó solo después de que Anthropic ignorara un pedido previo de retirar el modelo por su cuenta.
"Las empresas no van a joder con la Casa Blanca. Ese es el efecto último", dijo una persona familiarizada con la situación a Axios, llamándolo un "régimen de licencias de facto". Según The Information, es "poco probable" que la restricción de exportación se extienda a otros laboratorios de IA.
Poco antes, la administración había firmado una orden ejecutiva pidiendo una revisión de seguridad que ahora parece menos voluntaria de lo que se publicitó. Anthropic celebró públicamente la orden, pero igual lanzó Fable antes de que el proceso de revisión estuviera en pie, una jugada que probablemente sumó a la frustración del gobierno con la compañía.
El marketing de Anthropic puede haber invitado la presión
Algunos observadores ven la escalada como resultado directo del propio marketing agresivo de Anthropic sobre las capacidades de ciberseguridad del modelo Mythos, supuestas y probablemente reales. Si pasás el día contándole al mundo lo peligrosa que es tu propia tecnología, no te sorprendas cuando el gobierno te tome la palabra. Incluso el nombre encaja: una fábula es una historia corta con una moraleja.
Esa lectura no es errada, pero no llega lo suficientemente lejos. Lo que pasó acá es una intervención masiva del gobierno en el sector privado, dirigida a poner una de las tecnologías de IA más potentes bajo control estatal mientras se corta el acceso de otros países. Anthropic y el gobierno estadounidense han chocado públicamente varias veces en el último tiempo, y la posibilidad de presión políticamente motivada sobre la compañía no se puede descartar.
