El anuncio de OpenAI del martes, en que afirma haber resuelto uno de los legendarios Problemas del Milenio de las matemáticas, debió ser un momento de triunfo. El resultado es a la vez un logro innegable y una demostración contundente de la velocidad con que la inteligencia artificial está transformando la disciplina. Pero antes incluso de anunciarse formalmente, el avance ya venía complicado por las circunstancias inusuales que llevaron a la compañía a perseguir el problema: tras enterarse de que otros investigadores avanzaban, parece haber volcado sus considerables recursos en un esfuerzo de última hora para ganarles de mano. La controversia posterior sacó a la luz acusaciones de adelantamiento, de espionaje y de violaciones flagrantes de normas académicas largamente asentadas, que los investigadores temen puedan enfriar el ambiente del campo.
Como lo explica Abhishek Saha, profesor de matemáticas en Queen Mary University of London, OpenAI incurrió en "el tipo de cosas que los matemáticos en general no hacen".
¿Qué anunció exactamente OpenAI?
En una entrada de blog publicada el martes, OpenAI señaló que a uno de sus modelos sin lanzar le tomó apenas 88 horas encontrar una solución al problema de Navier-Stokes, un enredo matemático sobre el movimiento de los fluidos. Por la recompensa de un millón de dólares disponible para quien lo resuelva, el problema está entre los más investigados de las matemáticas, y aun así mantuvo en jaque a los investigadores humanos durante cerca de 90 años. La compañía afirmó que su modelo lo resolvió concentrando un enjambre de unos 10.000 agentes de inteligencia artificial, impulsados por su modelo interno, sobre la tarea, y celebró el resultado como un "hito".
Pero el momento elegido para el anuncio levantó cejas. Apenas un día antes, el profesor de matemáticas de la Universidad de Nueva York Tristan Buckmaster había publicado hallazgos sobre un problema relacionado junto a Levent Alpöge, investigador de Anthropic, la principal rival de OpenAI, aunque Alpöge no trabajaba en representación de su empleador.
Buckmaster declaró que contactó a OpenAI al enterarse de que la empresa conocía sus avances, para preguntar cuándo había comenzado a trabajar en el problema y con qué datos se había entrenado su modelo. La conversación, según él, se agrió rápido: un investigador de OpenAI le preguntó "¿por qué arruinarías tu carrera?" cuando dijo que haría público lo ocurrido. Al preguntar por qué eso arruinaría su carrera, Buckmaster sostiene que recibió esta respuesta:
"Si no quieres que sea amable, entonces no tengo por qué serlo".
OpenAI le habría pedido, en cambio, que publicara el trabajo dando crédito a su modelo interno y sacara a Alpöge como coautor.
¿Se usaron las conversaciones privadas de los investigadores?
Buckmaster dice haber consultado a OpenAI si había accedido a sus sesiones en Codex, la herramienta que usó mientras abordaba el problema, y que las respuestas de la empresa se volvieron cada vez más evasivas, incluso hostiles. En sus declaraciones posteriores, incluida la entrada que anuncia el resultado, OpenAI negó de plano haber usado datos específicos de usuarios.
"Nosotros (los investigadores y los agentes) no vimos nada de su trabajo por ningún medio hasta que lo publicaron: en particular, no se accedió a datos específicos de usuario para resolver este problema", señaló la compañía.
Pero OpenAI no pudo descartar de manera concluyente una influencia indirecta. "Aunque es improbable, no podemos descartar que datos desidentificados derivados de su uso de nuestros productos hayan ayudado a mejorar nuestros modelos", admitió, subrayando a la vez que las dos demostraciones difieren de forma significativa. Comentarios de investigadores de OpenAI en X repiten esas negativas.
Es difícil precisar qué ocurrió. Las cronologías están enredadas, las líneas de investigación se superponen y el origen del trabajo generado por inteligencia artificial es difícil, si no imposible, de identificar incluso en el mejor de los casos. Y tampoco sorprende que distintos actores compitan por resolver uno de los problemas matemáticos más famosos del mundo, sobre todo uno con un premio de peso asociado.
Aun así, hay partes del relato de OpenAI difíciles de explicar. Por su propia versión, el esfuerzo fue apurado y enormemente caro, con un costo de millones de dólares. Sin embargo, la empresa dice que no tiene intención de reclamar la recompensa, que en todo caso todavía no ha sido otorgada por el Clay Mathematics Institute, la entidad que la administra. Su único objetivo, sostiene, "es informar sobre el avance sustancial de nuestros modelos de inteligencia artificial". La compañía no parece haber dedicado mayor esfuerzo a Navier-Stokes antes de septiembre, o si lo hizo, no lo comunicó públicamente.
La explicación de OpenAI equivale, en los hechos, a un estruendoso "¿por qué no?". La empresa dijo que empezó a trabajar en el problema tras escuchar rumores de que otros investigadores avanzaban en los Problemas del Milenio. Esos rumores los encontró "en Twitter", declaró el investigador de OpenAI Sébastien Bubeck en una conferencia de prensa reportada por Science. "Así que pensamos: tenemos un modelo muy fuerte, ¿por qué no intentamos resolver también un Problema del Milenio?", dijo Bubeck.
OpenAI afirma que recién después se dio cuenta de que los rumores se referían a Alpöge y Buckmaster. Más allá de responder a las acusaciones sobre el uso de sus datos, la empresa no se ha pronunciado públicamente sobre los otros señalamientos y remitió a The Verge a su blog al ser consultada. Bubeck, mencionado por Buckmaster en su relato, ha disputado partes de esa versión y niega haber pedido alguna vez que se retirara a Alpöge como coautor.
¿Por qué la comunidad matemática reaccionó así?
Incluso dejando de lado las acusaciones más explosivas, aspectos de la conducta de OpenAI que la propia empresa reconoce han impactado a los matemáticos. El aparente apuro por ganarles el resultado a otros investigadores simplemente no es la forma en que se hace matemática en la mayoría de los casos. El adelantamiento ocurre, según Saha, pero no es fácil.
Eso se debe en parte a que la investigación de punta suele requerir una experticia tan profunda y especializada que pocas personas están en posición de intervenir aunque quieran, explicó.
La apertura es una virtud profundamente arraigada en la disciplina. "La matemática depende fuertemente de una norma informal de confianza", sostuvo Matthew Ballard, profesor de matemáticas en la Universidad de Carolina del Sur y director asociado de actividades científicas del Institute for Computer-Aided Reasoning in Mathematics (ICARM). "Los investigadores comparten de manera rutinaria ideas incompletas y trabajo en curso con colegas para afinar su pensamiento. Se hace con la expectativa de que no se convertirá en una competencia".
Aunque no pudo opinar sobre si se accedió o no a registros de conversaciones, el profesor de Carnegie Mellon Jeremy Avigad, también director del ICARM, dijo que incluso "la idea de que los sistemas de inteligencia artificial puedan robar ideas de nuestras consultas es escalofriante". Los matemáticos están acostumbrados a hablar de su trabajo sin preocuparse de que se lo adelanten. "Ahora que hasta el más mínimo indicio puede bastar para que alguien con suficientes recursos computacionales lance un enjambre de agentes a resolver el problema, es probable que la gente sea más cautelosa. Da pena pensar en cómo eso puede cambiar el ambiente de investigación".
La falta de voluntad, o de capacidad, de OpenAI para decir si sus modelos se nutrieron del trabajo de otros matemáticos agrava la incomodidad en el campo. "Eso es un problema", dijo a The Verge el profesor de la Universidad Brown Brendan Hassett, y agregó que "dada la historia de las empresas de inteligencia artificial apropiándose de trabajo con derechos de autor sin permiso ni pago, es natural que la gente haga estas preguntas". Las compañías, sostuvo, "deberían ser responsables de cumplir" la garantía de que los registros de chat no se usarán para mejorar sus modelos, y de poder demostrarlo.
Un triunfo de relaciones públicas con costo
No está claro hacia dónde va todo esto. Desde una conferencia en Beijing, Yang-Hui He, investigador del London Institute for Mathematical Sciences, dijo que le preocupa que "la matemática bajo las grandes empresas sea demasiado secreta". Alguien que se define "siempre optimista respecto de la inteligencia artificial", admite temer que la disciplina vuelva a un estado más hermético, como en el pasado, cuando se financiaba con el mecenazgo de familias ricas como los Medici.
Para la mayoría de los investigadores, quizás no cambie tanto. Hay un número limitado de problemas de alto calibre en los que empresas como OpenAI y sus rivales estarían dispuestas a gastar sumas semejantes, especuló Saha. "No esperarías que los laboratorios de inteligencia artificial le tiren todo a la mayoría de los problemas en que trabaja la gente, porque simplemente no obtendrán suficiente publicidad".
La publicidad pudo ser parte del punto, lo que ayudaría a explicar por qué OpenAI decidió correr tras un problema que sabía conectado con un investigador de Anthropic, aunque este actuara de manera independiente. "Esto es claramente una victoria de relaciones públicas para OpenAI", dijo el profesor de Oxford Andras Juhasz.
Pero Juhasz cuestionó cuán sostenible puede ser ese enfoque, y se preguntó si esto marca el principio del fin de la participación de las empresas de inteligencia artificial en la matemática de investigación, ahora que los modelos pueden abordar algunos de los problemas más grandes. Los matemáticos humanos también se adelantan entre sí, dijo, aunque lo de OpenAI demostró que eso puede ocurrir a una escala mucho mayor. "De repente, 10.000 matemáticos se suben a tu problema".
Todo eso podría convertir la victoria de relaciones públicas de OpenAI en una victoria pírrica. La compañía probó, una vez más, que sus modelos pueden competir en la frontera misma de las matemáticas. Al hacerlo, parece haber enajenado justamente a la comunidad que intentaba impresionar.
