Jensen Huang, CEO de Nvidia, tiene una salida simple para los laboratorios de frontera como OpenAI y Anthropic, que en las últimas semanas pidieron más regulación para sus modelos. "Tenemos que cerrar los laboratorios", dijo en una entrevista con Ezra Klein, del New York Times. Si los laboratorios no logran contener sus experimentos, según Huang, esos experimentos tienen que terminar.

"Ahora, si dicen lo contrario, que es: no hay forma de contener nuestros experimentos, simplemente no la hay; cuando probamos nuestros modelos de IA, se van a escapar y van a dañar al mundo, entonces creo que la respuesta es que tenemos que cerrar los laboratorios", dijo Huang. "Porque el costo para la humanidad, el daño es demasiado grande. El accionista, las responsabilidades, podrían ser responsabilidades civiles, podrían ser responsabilidades penales. O sea, la responsabilidad es increíble."

¿Qué desató el debate?

La discusión sobre más regulación para la IA viene después de un incidente muy difundido en que un agente de OpenAI entró sin autorización a Hugging Face, la popular plataforma de alojamiento de modelos. Hoy Hugging Face es de Nvidia, y según Tom's Hardware probablemente habría buscado una indemnización de OpenAI si hubiera estado bajo control de Nvidia en ese momento.

Tras ese episodio, varios laboratorios de frontera, entre ellos Anthropic y Alphabet (Google), usaron la idea de los agentes descontrolados en partes iguales como herramienta de marketing y como llamado a la acción regulatoria. Tom's Hardware lo interpreta como un intento de llegar primero a la mesa donde se van a escribir esas reglas.

Huang no ha mostrado entusiasmo por esos llamados. Días antes, rebatió las afirmaciones extremas de que la IA destruiría el mundo hacia 2030, y dijo que los laboratorios de frontera "nunca deberían lanzar productos antes de que estén listos ni entregar productos inseguros".

Una grieta entre Nvidia y sus clientes

Los laboratorios y Nvidia, su principal proveedor de hardware, han estado mayormente alineados en política de IA, pero el impulso hacia la regulación abrió una grieta. Varios laboratorios, entre ellos OpenAI, Anthropic y SpaceXAI, acordaron entre sí frenar el ritmo de desarrollo de modelos. Ahora enfrentan una demanda antimonopolio que califica esos planes de "interesados".

Los dichos de Huang a Klein trasladan la responsabilidad desde el desarrollo colectivo hacia cada líder por separado.

"Son empresas con capacidad de decisión", dijo Huang. "Si creo que estoy por lanzar un producto que es inseguro, está completamente en mi poder... no lanzar ese producto. Así que no me compro la idea de que, de alguna manera, todos los estadounidenses, unos 400 millones de nosotros, los estamos empujando a lanzar productos sin probar que no son confiables."

¿Huang está contra la regulación?

No, según sus propias palabras. "Lo que digo es que tenemos muchas leyes y regulaciones. Aplíquenlas", dijo. El ejecutivo sostuvo que los laboratorios, en particular OpenAI y Anthropic, pasaron muy rápido de ser instituciones de investigación a empresas que probablemente valen cientos de miles de millones de dólares, y que deberían comportarse como tales.

"No estoy en contra de las leyes y las regulaciones. Estoy en contra, en este momento, de la distracción", dijo Huang.

Los reportes de agentes de IA descontrolados siguen sumándose. A comienzos de septiembre Anthropic reveló un cuarto caso en que uno de sus modelos entró sin permiso a un sistema externo, y días atrás Google confirmó un reporte según el cual sus modelos Gemini vulneraron a tres empresas a principios de este año.