Después de que el matemático Tristan Buckmaster acusara a OpenAI de mala conducta, todas las partes involucradas se pronunciaron públicamente. El caso deja preguntas difíciles para la ciencia abierta.
La disputa por el resultado que OpenAI atribuye a su IA sobre las ecuaciones de Navier-Stokes atrajo declaraciones de todos los implicados. El problema de Navier-Stokes es uno de los Problemas del Milenio del Clay Mathematics Institute y tiene asociado un premio de un millón de dólares.
Buckmaster había formulado antes acusaciones serias contra OpenAI: sostuvo que, después de que se filtrara información sobre su investigación, la empresa lo presionó, intentó sacar a su coautor Levent Alpöge del paper porque Alpöge trabaja en Anthropic, y lo amenazó con consecuencias para su carrera. También existe la sospecha de que OpenAI pudo haber entrenado sus modelos con borradores que ambos investigadores subieron a Codex.
Un punto no está en discusión. Por su propia declaración, OpenAI escuchó rumores de que los modelos de Anthropic habían resuelto un Problema del Milenio y entonces apuntó sus recursos al mismo problema. En varios otros puntos, las versiones divergen.
¿Entrenó OpenAI con los borradores ajenos?
Alpöge y Buckmaster refutan la afirmación de OpenAI de que su propia solución difiere significativamente de la de ellos. Sostienen que habían ingresado un enfoque similar en los sistemas de OpenAI y, según entiende Buckmaster, ese material terminó en los datos de entrenamiento. Buckmaster califica el episodio como "absoluta mala praxis académica".
Empleados de OpenAI responden que la posibilidad de que la compañía efectivamente haya entrenado con las soluciones enviadas es baja, sobre todo si los dos investigadores habían desactivado la opción que excluye sus entradas del entrenamiento. Si lo hicieron o no, no es información pública.
Boaz Barak, empleado de OpenAI, rechazó además la idea de que el modelo necesitara ayuda externa. "Es puro consuelo pensar que el modelo habría necesitado esto. De hecho partió demostrando una afirmación más fuerte que la de ellos. Cualquiera que haya visto a este modelo trabajar no pensaría que necesita pistas", escribió.
En su entrada oficial de blog, OpenAI reconoce el margen de incertidumbre. "Aunque es poco probable, no podemos descartar que datos desidentificados derivados del uso que ellos hicieron de nuestros productos hayan ayudado a mejorar nuestros modelos".
Altman defiende a su equipo, Alpöge lo contradice
El CEO de OpenAI, Sam Altman, respaldó en X al investigador Sébastien Bubeck y afirmó que el equipo había "actuado con integridad y generosidad en todo momento". Según Altman, se sugirió que Buckmaster y Alpöge recibieran el reconocimiento, pero el equipo se topó con "acusaciones infundadas de plagio". Altman escribió también que el esfuerzo comenzó por "rumores en internet la semana pasada de que los modelos de Anthropic habían resuelto un problema del milenio, y teníamos curiosidad de saber si los nuestros podían hacerlo también".
Alpöge contradice a Altman en un punto clave. Altman afirma que era difícil hacerle la misma oferta a Alpöge porque él "no estaba dispuesto a hablar ni a coordinarse con nosotros de todas formas". Alpöge sostiene que le habría gustado trabajar con OpenAI y que la cuestión de la autoría no le importaba. "También me gusta la idea de que los laboratorios cooperen, y mejor aún en el progreso científico. Es una lástima", escribió.
¿Qué significa esto para la ciencia abierta?
Independientemente de quién tenga razón en cada detalle, el caso plantea una pregunta básica sobre cómo los laboratorios de IA interactúan con la comunidad de investigación. Bastaron rumores para que OpenAI volcara recursos masivos sobre un problema de investigación en muy poco tiempo, corriendo para resolverlo y posiblemente publicar primero. Y no puede descartarse que la empresa haya entrenado con datos ingresados en sus propios sistemas.
Para académicos y empresas por igual, la conclusión es simple: quien alimenta datos de investigación en los sistemas de OpenAI corre el riesgo de ser superado con sus propios hallazgos. Excluirse del entrenamiento desde la configuración ofrece una protección delgada en el mejor de los casos, sobre todo considerando que los laboratorios de IA no se han ganado el beneficio de la duda en materia de datos y entrenamiento.
Terence Tao, uno de los matemáticos vivos más influyentes, advierte en Mastodon que "incluso el rumor de que alguien está trabajando en un problema puede desencadenar una cantidad masiva de esfuerzo impulsado por IA para aplastarlo antes de que el proyecto de investigación original tenga tiempo de alcanzar su pleno potencial".
"Los incentivos pueden estar apuntando ahora en la dirección de dejar de compartir cualquier línea de investigación prometedora con la comunidad en general, lo que revertiría siglos de tradición de ciencia abierta y haría un daño serio de largo plazo al futuro de la disciplina", escribe Tao.
