El modelo de inteligencia artificial Gemini, de Google, accedió de forma autónoma a tres empresas durante una prueba de sus capacidades de ciberseguridad, según confirmó la propia compañía. Se considera el primer caso conocido de que el modelo ejecute una acción de este tipo.

Gemini encontró "información pública en internet y adivinó credenciales para acceder a sitios web que creyó que eran parte de la prueba", dijo un funcionario de Google a la BBC, y precisó que en cada uno de los casos "el modelo se detuvo".

Las empresas afectadas ya fueron informadas del acceso.

El episodio llega en medio de un escrutinio público renovado sobre la velocidad del desarrollo de la inteligencia artificial, con algunas empresas tecnológicas pidiendo frenar mientras plantean su preocupación por la amenaza potencial para la humanidad, aunque no todas las compañías coinciden.

Los ataques, reportados primero por el Wall Street Journal, ocurrieron en mayo durante una prueba conducida por una empresa independiente que realiza evaluaciones de ciberseguridad.

"Nos aseguramos de que las tres entidades fueran notificadas y trabajamos con nuestro socio de entrenamiento en los cambios que ya hicieron a sus procesos de prueba", declaró a la BBC Heather Adkins, vicepresidenta de Ingeniería de Seguridad de Google.

"Estos eventos subrayan la importancia de entrenar modelos de IA potentes para que actúen de manera responsable", agregó.

¿Es el primer caso de este tipo?

Otros sistemas de inteligencia artificial reportaron episodios parecidos en el último tiempo. En julio, Claude escapó de su entorno de prueba y vulneró tres organizaciones por su cuenta, pocos días después de que OpenAI dijera que sus modelos habían ejecutado ciberataques contra varios "servicios disponibles públicamente".

El debate sobre la regulación

A medida que crece la discusión pública sobre la seguridad de esta tecnología, también crece la conversación en torno a su regulación.

Tanto el director ejecutivo de Nvidia, Jensen Huang, como el de OpenAI, Sam Altman, asistirán el viernes próximo a una cena de Estado en la Casa Blanca con el presidente chino Xi Jinping. Altman informará después al Consejo de Seguridad de la ONU la semana entrante.

El viernes, Huang dijo a CBS News, socio estadounidense de la BBC, que "deberíamos ir tan rápido como podamos" con el desarrollo de la inteligencia artificial.