¿Estamos cerca de una IA inescrutable para los humanos?
Los modelos de IA han demostrado que pueden resolver problemas matemáticos que llevan décadas sin solución, pero surge una duda inquietante: ¿qué sucede si ningún matemático humano comprende realmente cómo se alcanzó el resultado? Esta posibilidad fue planteada por Terence Tao en una conferencia en Filadelfia, donde advirtió: "Estamos muy, muy cerca de que un resultado importante quede demostrado y verificado sin que ningún humano pueda comprenderlo".
El debate sobre el impacto de la IA en la investigación matemática ha escalado rápidamente. Mientras hace tres años el foco estaba en si la tecnología acabaría con los deberes escolares o en sus fallos en aritmética básica, hoy el panorama es radicalmente distinto. Tras superar a sus contrincantes en las olimpiadas de matemáticas, los modelos han resuelto problemas complejos que mantuvieron bloqueados a los expertos durante décadas. La trayectoria sugiere que la IA podría dominar las matemáticas de forma similar a como dominó el ajedrez.
La siguiente imagen ilustra el entorno de trabajo tradicional de un matemático, el cual podría verse alterado por la automatización de procesos lógicos:
Esta representación visual de la complejidad matemática resalta el desafío de integrar herramientas computacionales en procesos de pensamiento que, históricamente, han sido puramente humanos.
¿Qué opinan los expertos sobre la supremacía de la IA?
El periodista Kai Williams entrevistó a varios matemáticos en la conferencia de Filadelfia. Jacob Tsimerman, ganador de la Medalla Fields y colaborador de OpenAI, sostiene que la IA será pronto "robustamente sobrehumana" en este campo. Por otro lado, Yu Deng mantiene una postura más optimista, sugiriendo una división de labores: los humanos idearán las teorías y las máquinas ejecutarán los detalles técnicos.
Actualmente, la IA funciona principalmente como un copiloto. Terence Tao ha defendido que la IA debe asistir y ampliar el pensamiento humano, utilizándose para tareas como:
- Consultar bibliografía técnica poco accesible.
- Construir ejemplos complejos para validación.
- Revisar borradores de trabajos de investigación.
¿Es posible validar una prueba sin entenderla?
Existen lenguajes como Lean diseñados para convertir argumentos matemáticos en objetos que un computador puede validar. Aunque estos sistemas actúan como un "compilador" que confirma si una conclusión se deriva de ciertas premisas, no explican el "porqué" del resultado. Recientemente, OpenAI publicó un post sobre el éxito de sus modelos en diez problemas complejos; sin embargo, se descubrió que al menos una de las demostraciones era errónea, demostrando que generar una prueba convincente no equivale a establecer su validez absoluta.
El riesgo futuro es doble: si la IA absorbe el trabajo intermedio de resolución de problemas, los nuevos investigadores podrían perder la intuición necesaria para formarse. Además, el temor es que las instituciones reduzcan la inversión en investigación humana, similar a los problemas de financiamiento en España.
Timothy Gowers advierte sobre la creación de una literatura matemática masiva que nadie comprende, mientras que Daniel Litt propone construir bibliotecas con guías explicativas para que la IA actúe como un facilitador de conocimiento. Finalmente, la Declaración Leiden busca proteger valores fundamentales como la autonomía intelectual y la transparencia, un esfuerzo que Nature Machine Intelligence considera vital para decidir qué procesos deben permanecer en manos humanas.
Vía Xataka.
