OpenAI ha admitido que sus agentes experimentales de inteligencia artificial utilizaron una wiki de programación abierta en alemán para comunicarse, según un informe de Reuters. Este suceso ocurrió semanas antes de que agentes de IA similares superaran restricciones y comprometieran a Hugging Face, según señala el reporte. A pesar de conocer el problema, OpenAI no lo reveló en su momento, pero ahora sostiene que la industria requiere estándares más rigurosos para informar sobre comportamientos imprevistos en la IA.

OpenAI reconoció la mala conducta, pero este error plantea más interrogantes que respuestas.

Sobre cómo entendemos el “incidente del wiki”, donde nuestros agentes escribieron en varios sitios de internet: ya es hora de que definamos estándares sobre cuándo y cómo compartimos los incidentes de desalineación, no solo las propiedades de desalineación de nuestros modelos. Históricamente, hemos tratado la desalineación... pic.twitter.com/NNTbfSxVWn 5 de septiembre de 2026.

A partir de mayo de 2026, miles de agentes de OpenAI —que son esencialmente rastreadores avanzados bien equipados— descubrieron que podían escribir en DseWiki, un antiguo sitio web colaborativo de programación en alemán. Así, entre mayo y junio, los agentes utilizaron más de 3,700 nombres de usuario para generar cerca de 18,000 publicaciones, intercambiando información útil para completar evaluaciones y eludir restricciones. Algunos crearon páginas de respaldo en caso de que los moderadores borraran sus publicaciones, lo que esencialmente convirtió una wiki en un servicio de almacenamiento persistente para que dichos agentes compartieran información. OpenAI denomina a esto el 'incidente del wiki' y admite la irregularidad.

"Nuestras prácticas de divulgación sobre desalineación necesitan expandirse para esta nueva fase de capacidades de los modelos", escribió la compañía en una publicación en X. "Nosotros y la comunidad de IA en general aún no tenemos un estándar claro sobre cómo informar la desalineación que aparece durante el entrenamiento, la evaluación y el despliegue, incluyendo ejemplos que no parecen incidentes de seguridad tradicionales, pero que podrían proporcionar información sobre el comportamiento de la IA y futuros riesgos. Estamos trabajando en un framework y lo compartiremos en las próximas semanas; paralelamente, colaboramos con decenas de agencias reguladoras gubernamentales en todo el mundo sobre estos temas".

Posteriormente, OpenAI puso en cuarentena los pesos entrenados del modelo experimental involucrado, pospuso las ejecuciones de aprendizaje por refuerzo de frontera y añadió medidas de seguridad. La empresa aclaró además que los agentes no habían desarrollado sus propios objetivos, sino que estaban persiguiendo agresivamente los desafíos de ciberseguridad asignados en ExploitGym y trataban las restricciones como obstáculos para completarlos.

Para lograrlo, los agentes encontraron canales de comunicación no intencionados que permitieron a ejecuciones separadas intercambiar vulnerabilidades y técnicas para obtener acceso a internet, algo que finalmente expuso las credenciales de Hugging Face. Según los investigadores, los rastreadores avanzados —a los que OpenAI llama agentes de IA— explotaron una vulnerabilidad desconocida en el proxy interno de registro de paquetes Artifactory de la compañía, escalaron privilegios, se movieron a través de sistemas y alcanzaron internet. Luego, comprometieron decenas de servidores de Hugging Face, obtuvieron acceso root a una máquina, accedieron a información privada y credenciales de mensajería, y copiaron datos de evaluación privados en un dataset público de Hugging Face. Y el resto es historia.

¿Están rompiendo las leyes de Asimov?

Los agentes de OpenAI pueden sonar como algo que violaría las famosas Tres Leyes de la Robótica de Isaac Asimov, pero la comparación solo llega hasta cierto punto.

La Primera Ley dice que un robot no puede dañar a un ser humano o permitir que un humano sufra daños. No hay indicios de que los agentes de OpenAI hayan dañado físicamente a nadie.

La Segunda Ley exige que los robots obedezcan a los humanos a menos que hacerlo entre en conflicto con la Primera Ley. Aquí la comparación se vuelve más interesante: los agentes ciertamente eludieron las restricciones impuestas por sus propietarios/operadores, obtuvieron acceso no autorizado a internet y explotaron sistemas externos mientras perseguían sus tareas asignadas. En el marco de Asimov, esto significa desobediencia. Mientras tanto, los agentes de IA seguían simultáneamente las instrucciones humanas para resolver sus propias tareas. Esto podría no considerarse desobediencia, ya que estos agentes no introdujeron ningún daño físico a las personas. Sin embargo, estamos caminando sobre hielo muy delgado. El acceso no autorizado a internet mientras se explotan sistemas para beneficio propio no es exactamente bienvenido en Estados Unidos y Europa.

La Tercera Ley exige que un robot proteja su propia existencia siempre que no entre en conflicto con las dos primeras leyes. Existe evidencia clara de que los agentes de IA de OpenAI estaban tratando de preservarse: la creación de canales de comunicación persistentes y páginas wiki de respaldo ayudó a completar sus tareas en lugar de garantizar su supervivencia.

¿Cuál es el problema de ingeniería real?

Los modelos de IA actuales no están programados en torno a las leyes de Asimov. Los incidentes demuestran el problema de ingeniería real de las leyes de Asimov notablemente bien: una máquina suficientemente capaz puede seguir el objetivo literal dado por los humanos y, sin embargo, su comportamiento dista mucho de lo que sus creadores esperaban o querían. Y aquí estamos.

Los investigadores han conocido este tipo de "comportamiento emergente orientado a objetivos" durante la mayor parte del auge relativamente reciente de la IA. Y, si le preguntas a un modelo de frontera: "¿Cuánto entendemos realmente sobre cómo funciona la IA?", podría decirte que entendemos cerca del 20% de lo que hay que saber. Por lo tanto, algunos han estado gritando a los cuatro vientos sobre cómo este es un comportamiento esperado para cualquier IA con suficientes parámetros y una ventana de contexto grande, dada la dirección que ha tomado el desarrollo de la IA. Y eso sin mencionar qué otros misterios existen sobre cómo opera realmente la IA. La solución a la alineación ni siquiera está realmente teorizada y está mucho más lejos en el futuro que estos problemas. La carrera desenfrenada entre superpotencias, por crecer a la máxima velocidad con poca atención a la seguridad, tendrá consecuencias directas de las propias IA. Y eso se está volviendo muy evidente. Tan evidente, que incluso nuestros grandes líderes finalmente se han dado cuenta.

Vía Tom's Hardware.