Una idea sorprendente circula entre los ingenieros que se dedican a la inteligencia artificial, y que suena casi a confesión. La planteó Dario Amodei, director general de Anthropic, en un ensayo publicado en abril de 2025, donde reconoció que su equipo no entiende plenamente cómo funcionan sus modelos. No es una ocurrencia de marketing: es el líder de una empresa valorada en 183.000 millones de dólares admitiendo que carecen de control sobre el mecanismo interno de su producto.
Lo más revelador es que Amodei no está solo. Geoffrey Hinton, premio Nobel de Física en 2024, ha expresado posturas similares: él desarrolló el algoritmo, pero lo que sucede dentro de la máquina tras el entrenamiento es un misterio. Chris Olah, cofundador de Anthropic, describe las redes neuronales como un andamiaje donde los circuitos crecen solos. Estos tres perfiles convergen en el concepto de capacidades emergentes: habilidades que aparecen al aumentar el tamaño del modelo sin haber sido programadas.
¿Advertencia científica o argumento de venta?
La sospecha sobre si esto es una estrategia comercial es válida. Anthropic ha basado su identidad en la seguridad frente a competidores como OpenAI o Google DeepMind. Sin embargo, Hinton dejó Google en 2023 para hablar sin ataduras corporativas y su discurso es incluso más pesimista que el de los ejecutivos. No busca vender productos, sino alertar sobre riesgos sistémicos.
El trabajo de Chris Olah refuerza esta visión mediante evidencia técnica. Los circuitos de inducción y las características monosemánticas extraídas de Claude 3 Sonnet demuestran que el interior del modelo es un conjunto de matrices con miles de millones de parámetros. Olah no vende humo; documenta la frustración de no entender cómo emergen las tareas cognitivas de esos números.
La imagen superior muestra a Dario Amodei durante su intervención en TechCrunch Disrupt 2023, donde comenzó a esbozar sus preocupaciones sobre la seguridad en la IA.
Por otro lado, Geoffrey Hinton, capturado en esta fotografía tras su reconocimiento como Nobel, mantiene una postura crítica sobre el desarrollo descontrolado de la tecnología de aprendizaje profundo.
La explicación más plausible es que estamos ante un consenso incómodo. Los creadores de los sistemas más potentes no poseen un mapa preciso de cómo emergen las capacidades. La industria admite, casi al unísono, que corre más rápido de lo que entiende. La pregunta real es qué sucederá al escalar estos sistemas sin una interpretabilidad garantizada.
Vía Xataka.
