La carta de enforcement del gobierno de Estados Unidos a Anthropic, que terminó forzando a la compañía a sacar sus modelos más avanzados de circulación el viernes pasado, debería ser un campanazo para cualquier empresa tech del país, sea laboratorio de IA o no.
El detalle de la jugada: el viernes por la tarde, el Departamento de Comercio envió a Anthropic una carta invocando una directiva de export control oscura que prohibió el acceso a Fable 5 y Mythos 5 a cualquier no estadounidense, incluidos los propios empleados de Anthropic, citando una preocupación de seguridad nacional sin especificar. Anthropic afirma que cree que la carta está relacionada con un bypass de los guardrails del modelo, pero no está segura, porque la carta no entrega detalles concretos y no se ha hecho pública.
En respuesta, Anthropic cerró ambos modelos top a todos los clientes para garantizar el cumplimiento de la directiva. El resultado: el gobierno de Estados Unidos forzó a una empresa tech a bajar sus modelos con una acción unilateral y veloz que no parece haber requerido aprobación judicial.
La intervención del viernes de la administración Trump demuestra que la industria de IA no es inmune a la interferencia gubernamental. También es una advertencia al resto del ecosistema tech: cumplan, o podemos apagarlos a ustedes y a sus productos.
¿Por qué importa que el motivo no haya sido técnico?
Citando fuentes, Axios describió una situación tensa durante el fin de semana entre los dos jugadores. Según el reporte, las "diferencias de personalidad" entre Anthropic y la administración Trump, no un problema técnico con los modelos, fueron lo que llevó a la directiva de export control.
Los nuevos detalles que emergieron durante el fin de semana siembran más dudas sobre el razonamiento ya frágil del gobierno.
La voz de Katie Moussouris
Katie Moussouris, veterana en ciberseguridad y fundadora de Luta Security, contó en un blog post que Anthropic compartió con ella una copia privada de un paper escrito por investigadores de seguridad describiendo el supuesto bypass de guardrails en Fable 5. The Wall Street Journal reporta que los autores del paper son investigadores de Amazon. Moussouris dice que Anthropic la contactó para pedir su opinión sobre el documento.
El blog post de Moussouris describe cómo los investigadores gatillaron el bypass, pero sostiene que el bypass mismo "nunca debió haber gatillado un export control". La diferencia técnica es básicamente entre pedirle al modelo que "revise código por problemas de seguridad" frente a pedirle que "arregle este código". El resultado final es muy parecido, aunque las preguntas se planteen levemente distinto.
"El comportamiento descrito en el paper no se puede arreglar de manera significativa, y cualquier intento solo debilitaría el modelo para usos defensivos", dijo Moussouris, que calificó la directiva de export control como apresurada, brutal y mal orientada.
Moussouris y decenas de otros investigadores y expertos en seguridad llamaron a la administración Trump a revocar la orden, describiendo la medida de retirar capacidades avanzadas de ciberseguridad de los defensores de red estadounidenses como "peligrosa".
¿Es esto retaliación?
Administraciones anteriores tomaron decisiones amplias sobre brechas de conocimiento. Por ejemplo, el lenguaje usado por el gobierno de Estados Unidos en la década de 2010 para regular herramientas de ciberseguridad de doble uso fue tan amplio que casi prohibió la investigación legítima de vulnerabilidades.
Sin embargo, la directiva de la administración Trump parece retaliatoria.
Justin Hendrix, editor de Tech Policy Press, sostiene que la jugada del gobierno "probablemente despertará alarmas en capitales extranjeras sobre la confiabilidad de la IA estadounidense para aplicaciones críticas". El mensaje es que las empresas de IA en Estados Unidos no pueden ser confiables de operar sin interferencia del gobierno.
La administración Trump no ha confirmado por qué invocó la directiva de export control. ¿Leyeron mal el reporte y entraron en pánico? ¿Andy Jassy, CEO de Amazon, dijo algo a funcionarios senior que gatilló la reacción, por precaución o por revancha? ¿Algo se perdió en la traducción, o fue una manera de presionar a Anthropic, con quien la administración ya tiene una relación fracturada? Es posible incluso que la Casa Blanca no haya entendido las consecuencias de largo alcance de su propia carta y los funcionarios ahora estén corriendo para deshacer el daño.
Citando a Hendrix, "el clima es uno de sospecha generalizada de que funcionarios senior están eligiendo favoritos según factores personales y políticos". El saldo es que el gobierno sentó un precedente peligroso sobre cuánto control quiere ejercer sobre la liberación de software hecho en Estados Unidos.
Esta vez al gobierno le molestó Anthropic. Mañana podría molestarle cualquier otro.
