Frente a las críticas crecientes de la comunidad matemática, OpenAI armó un grupo asesor independiente con investigadores de primera línea del área. El anuncio llegó junto a otra noticia, la de que un modelo interno nuevo liquidó más de 100 problemas abiertos de larga data tras apenas un mes de entrenamiento.

OpenAI afirma que ese modelo resolvió más de 100 problemas pendientes en la mayoría de las áreas de las matemáticas, por sobre el problema del milenio de Navier-Stokes. La empresa soltó el dato mientras anunciaba el nuevo grupo asesor.

Según OpenAI, el entrenamiento recién arrancó el 28 de agosto, lo que deja la corrida completa en cerca de un mes. Hasta los propios matemáticos de la compañía quedaron "sorprendidos" por la velocidad, y las conversaciones internas se movieron hacia cómo darle a la comunidad académica el aviso suficiente para prepararse. Entre los problemas resueltos estaría un segundo problema del milenio, la conjetura de Hodge.

Cuáles problemas resolvió el modelo en concreto, cómo los resolvió y qué significan los resultados para las matemáticas y la ciencia siguen siendo preguntas abiertas. La solución publicada de Navier-Stokes ya abrió un debate acalorado en parte de la comunidad científica.

¿Por qué esto parece un cambio de rumbo?

El movimiento completo tiene aire de giro. El científico jefe Jakub Pachocki dijo hace poco que el equipo había elegido a propósito no optimizar para matemáticas y que estaba concentrado en la automejora recursiva. Quien mire con escepticismo puede leer la publicidad alrededor de resolver problemas famosos como una jugada para mantener a los inversionistas a bordo y atraer nuevos, sobre todo porque OpenAI admitió que tomó el problema del milenio recién después de escuchar rumores de que otro equipo, formado en parte por investigadores de Anthropic, ya lo había resuelto.

Resolver problemas no equivale a entenderlos

El anuncio de OpenAI responde de forma directa a las críticas de los matemáticos. En la carta abierta "A Severe Misalignment of AI in Mathematics", firmada por 25 medallistas Fields, advierten contra medir el rendimiento de la inteligencia artificial por la cantidad de problemas abiertos que logra resolver. Producir soluciones en serie, sostienen, erosiona la comprensión conceptual, que es el punto entero de las matemáticas, y a la larga amenaza al intelecto humano.

OpenAI dice que ahora trabaja con matemáticos que formaron el Advisory Group on Mathematics and Artificial Intelligence, con sede en el Institute for Advanced Study. El grupo está pensado para conectar a la empresa con la comunidad matemática y con el público general.

La compañía argumenta que necesita ese tipo de orientación porque los avances matemáticos pueden tener usos prácticos de largo alcance, lo que convierte al desarrollo responsable en un asunto que excede al propio campo. OpenAI llama a la colaboración un "primer paso", con muchas "preguntas difíciles por delante sobre cómo la inteligencia artificial puede apoyar la comprensión matemática y cómo los beneficios de estas capacidades pueden llegar a la comunidad más amplia".

OpenAI se queda con el control del ritmo

OpenAI dice que el grupo va a operar de forma independiente. Sus miembros pueden dar consejos sin que se los pidan, hablar en público sobre la influencia de la empresa en las matemáticas y publicar sus recomendaciones. OpenAI no les paga y ellos deciden quién entra al grupo.

Pero el grupo no puede controlar la velocidad a la que avanza OpenAI. "Es importante señalar que el grupo no será responsable de asesorarnos sobre cómo marcar el ritmo de nuestro progreso interno en matemáticas", escribe la empresa. El grupo opina sobre cómo se comparten los resultados, no sobre si se producen ni a qué velocidad.

Gowers entra al grupo y no firma la carta

Uno de los miembros fundadores es Timothy Gowers, el matemático británico y medallista Fields. No firmó la carta abierta de los 25 medallistas Fields y explicó su razonamiento en su blog.

Gowers coincide con buena parte de la carta y piensa que las matemáticas están en problemas. Donde se aparta es en para qué sirven las matemáticas. La carta trata la comprensión conceptual como el objetivo principal y la resolución de problemas como un medio para llegar ahí. Gowers ve un espectro.

"En un extremo del espectro están los matemáticos motivados sobre todo por el deseo de resolver problemas, que ven la comprensión conceptual como un medio muy importante para ese fin. En el otro están los matemáticos motivados sobre todo por el deseo de alcanzar la comprensión conceptual, que ven la resolución de problemas como un medio muy importante para ese fin", escribió.

Su propio proyecto de investigación sobre demostración automática de teoremas en Cambridge perdió su razón de existir una vez que los modelos grandes de lenguaje se volvieron lo bastante buenos, dice Gowers. "Dicho de otra manera, hemos tenido que tragarnos la lección amarga (que por supuesto siempre supimos que era una posibilidad concreta, aunque la velocidad a la que ocurrió nos tomó por sorpresa)."

El riesgo es que nadie quiera ser matemático

Lo que más le preocupa a Gowers es que las estructuras sociales que sostienen unido el conocimiento matemático puedan derrumbarse, dice. Gente que alguna vez habría hecho un doctorado y se habría convertido en "custodia de la tradición matemática" puede simplemente decidir que ya no vale la pena.

"Hablando por mí mismo, mi principal motivación para convertirme en matemático fue el sueño de que resolvería problemas sin resolver, mientras más famosos mejor." Si se saca ese sueño, no queda claro qué llena el hueco.

También está la pregunta del financiamiento. Quienes definen las políticas públicas podrían mirar las matemáticas con inteligencia artificial y concluir que los matemáticos humanos sobran. "Necesitamos con urgencia dar con buenas maneras de explicar el valor de tener una gran cantidad de expertos matemáticos humanos, incluso si ya no es parte de su rol encontrar nuevas demostraciones de teoremas", escribe Gowers.

Tampoco firmó la carta porque no logró identificar qué pedía que no estuviera pasando ya. Espera que en cuestión de meses haya modelos de lenguaje capaces de atacar problemas matemáticos mayores disponibles para cualquiera. "Así que sentí que no había nada que ganar criticando a las empresas de inteligencia artificial por generar demasiadas soluciones demasiado rápido."