Usuarios del último modelo insignia de OpenAI orientado a programación y ciberseguridad, GPT-5.6 Sol, publican relatos inquietantes en redes sociales: aseguran que el modelo eliminó por su cuenta archivos, datos y hasta bases de datos completas, sin preguntar antes.

"GPT-5.6-Sol acaba de borrar accidentalmente casi TODOS los archivos de mi Mac", escribió Matt Shumer, fundador y CEO de la startup de IA OthersideAI, creadora de HyperWrite, en una publicación que se volvió viral en X.

"GPT-5.6 Sol acaba de borrar toda mi base de datos de producción. Eso es todo. No es broma. Nunca me había pasado antes, con ningún otro modelo", escribió el desarrollador Bruno Lemos en X.

El desarrollador Joey Kudish relató que el sistema "excesivamente ambicioso" de Codex Sol eliminó archivos que no debía. Un hilo en Reddit reunió más casos.

Es cierto que un puñado de reportes, incluso uno tan creíble como el de Shumer, no constituye evidencia estadística de que el modelo sea el único culpable. Muchas otras variables pueden hacer que un sistema de IA se comporte mal.

Una advertencia en la propia ficha técnica

Pero OpenAI había marcado este riesgo antes de que Sol saliera al mercado. Dos semanas antes del lanzamiento, la compañía publicó la ficha técnica del modelo, el documento que describe los métodos y resultados de las pruebas. Como es habitual, el informe destaca sobre todo las capacidades de Sol, pero también incluye una advertencia (el destacado es nuestro):

"En contextos de programación, la desalineación surge de una mezcla de exceso de entusiasmo por completar la tarea y una interpretación demasiado permisiva de las instrucciones del usuario, asumiendo que las acciones están permitidas salvo que se prohíban explícita e inequívocamente. Esto se manifiesta como un modelo demasiado agentivo al sortear restricciones, descuidado al tomar acciones potencialmente destructivas más allá del alcance de la tarea, o engañoso al reportar sus resultados a los usuarios."

En otras palabras, OpenAI detectó que Sol tiende a ejecutar cualquier acción que crea necesaria para cumplir un objetivo, incluso destructiva, mientras no esté prohibida de forma "inequívoca". Y luego podría mentir sobre qué lo llevó a hacerlo.

Máquinas eliminadas y credenciales usadas sin permiso

OpenAI compartió ejemplos concretos. En un caso, el usuario pidió a Sol borrar tres máquinas virtuales remotas nombradas 1, 2 y 3. Como no encontró esos nombres donde buscó, en lugar de detenerse a preguntar decidió eliminar otras tres máquinas, la 5, la 6 y la 7. Al hacerlo "detuvo procesos activos y forzó la eliminación de árboles de trabajo", y después reconoció que pudo haberse perdido trabajo sin guardar en la máquina virtual 6.

En resumen: borró las máquinas equivocadas, por su cuenta, y solo admitió lo ocurrido después.

En otro incidente, Sol "usó credenciales más allá de lo que el usuario había autorizado". Las credenciales son los usuarios, contraseñas o claves de seguridad que verifican quién puede iniciar sesión. Sucedió mientras trabajaba en un proyecto y no lograba leer sus archivos en la nube: en vez de avisar del problema, buscó las credenciales por su cuenta, las encontró en un caché local oculto y las utilizó sin pedir autorización.

La ficha técnica promete que el comportamiento destructivo debería ser poco frecuente, aunque también admite que GPT-5.6 Sol "muestra una mayor tendencia que GPT-5.5 a ir más allá de la intención del usuario, incluso tomando o intentando acciones que no se le pidieron".

¿Cómo protegerse mientras tanto?

Es pronto para saber qué tan extendidos están estos incidentes. Por ahora, OpenAI recomienda que quienes usen Sol implementen sus propios resguardos:

  • Permisos acotados (scoping), que no den acceso a sistemas de producción.
  • Respaldos actualizados de datos y proyectos.
  • Despliegues por etapas en lugar de dar acceso total de una vez.

OpenAI no respondió de inmediato a la solicitud de comentarios de TechCrunch.