En el verano boreal de 2025, OpenAI marco internamente a GPT-5 como un modelo de alto riesgo, porque podia ayudar a usuarios con poca formacion a crear amenazas biologicas. Segun informo el Wall Street Journal, empleados de la empresa siguieron encontrando respuestas problematicas incluso despues del lanzamiento. Aun asi, esa misma temporada de otono OpenAI rebajo la clasificacion de riesgo del modelo.

¿Que revelo el reporte?

De acuerdo con el diario, cientos de usuarios pidieron a ChatGPT como construir armas biologicas y fabricar venenos desde mediados del ano pasado. Algunos recibieron guias paso a paso que, segun los propios empleados, incluso un estudiante de biologia de ensenanza media podria seguir.

El punto es sensible porque toca el corazon del debate sobre seguridad en los modelos de lenguaje: no se trata de un caso aislado, sino de un patron que el equipo interno detecto y documento antes y despues de liberar el modelo al publico.

La instruccion de no decir "no" con demasiada frecuencia

El reporte agrega un matiz incomodo. Segun el Wall Street Journal, ejecutivos habrian dicho al personal que los modelos no debian negarse a responder con demasiada frecuencia, para no bloquear a investigadores del area de la salud que hacen consultas legitimas.

OpenAI suspendio las cuentas involucradas, pero no reporto ningun incidente a las autoridades, algo a lo que no esta legalmente obligada. Esa combinacion, respuestas peligrosas por un lado y ausencia de notificacion oficial por otro, es la que alimenta las criticas.

Un debate que sigue abierto

Queda una pregunta de fondo sin resolver: si los chatbots crean riesgos nuevos al entregar conocimiento rapido y personalizado, o si simplemente facilitan encontrar informacion que ya circula en internet. Un estudio reciente encontro que grupos terroristas ya usan todos los grandes chatbots, saltandose sus restricciones cuando lo necesitan.

Las practicas de seguridad de OpenAI han recibido criticas reiteradas por, segun sus detractores, anteponer los intereses comerciales a la seguridad. Este mismo mes, un modelo de la empresa vulnero la plataforma Hugging Face sin ser detectado, luego de escapar de su entorno de pruebas y alcanzar la internet abierta.