Las afirmaciones matemáticas de OpenAI exponen el cuello de botella de verificación de la IA

El informe de WIRED describe un conflicto creciente entre los laboratorios de IA de frontera y los matemáticos profesionales en torno al proceso. La portavoz de OpenAI, Lindsay McCallum, dijo a WIRED que el 28 de agosto la empresa empezó a entrenar un nuevo modelo interno y que, además de «resolver el problema del Premio del Milenio de Navier—Stokes», el modelo había «resuelto más de 100 problemas abiertos desde hace mucho tiempo en la mayoría de las áreas de las matemáticas».

Es una afirmación extraordinaria, y aparece en un contexto frágil. El problema de Navier–Stokes es uno de los Problemas del Premio del Milenio, una clase de problemas cuya resolución normalmente requiere un escrutinio prolongado por parte de expertos. Cubrimos lo que está en juego en la verificación de esa afirmación en la afirmación de OpenAI sobre una demostración de Navier–Stokes: el resultado titular importa, pero el camino desde «el modelo ha producido un argumento» hasta «el campo acepta el teorema» es la parte difícil.

WIRED también informó de que OpenAI había dicho a algunas personas que planeaba publicar en GitHub cientos de soluciones a problemas no resueltos. McCallum dijo a WIRED que la empresa estaba «trabajando para publicar de forma responsable» los próximos resultados matemáticos y que se estaba apoyando en consejos y recomendaciones públicas del Advisory Group on Mathematics and Artificial Intelligence del Institute for Advanced Study. También dijo que OpenAI no había fijado una fecha de publicación.

Esa distinción importa. Una publicación en GitHub es útil para software. No es automáticamente la unidad adecuada para las matemáticas de frontera. Los matemáticos pueden leer código, demostraciones formales, esquemas y artículos, pero cada formato responde a una pregunta distinta. ¿Funciona el argumento? ¿Quién tuvo la idea clave? ¿De qué trabajos previos depende? ¿Qué partes son nuevas y cuáles son recombinaciones? ¿Qué deberían citar otros investigadores?

Bryna Kra, matemática de la Northwestern University que asistió a la reunión de agosto, dijo a WIRED que los asistentes pidieron a OpenAI que no publicara los resultados solo en una entrada de blog o un tuit, sino que escribiera artículos que los matemáticos pudieran «asimilar, digerir y usar». Kra dijo a WIRED: «Al parecer, esa aportación fue ignorada».

El ejemplo técnico más claro del material citado no es el lote discutido de cientos de resultados. Es el resultado anterior de OpenAI sobre distancias unitarias.

El problema de las distancias unitarias de Erdős pregunta, a grandes rasgos, cuántos pares de puntos en un plano pueden estar exactamente a una unidad de distancia. Paul Erdős conjeturó que la mejor disposición posible crecería solo apenas más rápido que el número de puntos. Según Ars Technica, el modelo de OpenAI demostró que estaba equivocado al construir una disposición de puntos más compleja que los enfoques tradicionales basados en cuadrículas.

Ars describe el método como una recombinación inteligente de ideas matemáticas conocidas. El modelo utilizó una cuadrícula de alta dimensión, la proyectó en dos dimensiones y empleó enteros algebraicos para crear una estructura más rica. En la evaluación de Ars, el resultado no introdujo técnicas genuinamente nuevas. Después, matemáticos humanos depuraron y ampliaron el trabajo.

Esa combinación es importante: lo bastante autónoma como para importar, pero no mágica. El sistema de IA encontró una demostración que resolvía una gran conjetura abierta, pero el resultado aún necesitó interpretación humana, simplificación, ampliación y ubicación en la literatura.

Esta es la imagen más realista a corto plazo de la IA en la investigación: los modelos buscan de forma amplia, conectan subcampos y trabajan a fondo estrategias de demostración que serían tediosas para las personas; los humanos deciden qué preguntas importan, corrigen la exposición, comprueban el trabajo y construyen la siguiente capa. Puede que esa división no se mantenga para siempre, pero las pruebas actuales en los informes citados respaldan más una historia híbrida que una historia de sustitución limpia.

También se parece a lo que los ingenieros están viendo en los agentes de software. Las preguntas más difíciles en producción no son solo «¿puede el modelo producir una respuesta?». Son «¿podemos evaluarla, reproducirla, atribuirla y dejar que actúe de forma segura?». Por eso el diseño de evaluaciones se ha vuelto central, desde pequeños conjuntos de referencia hasta medidas de ejecuciones repetidas como pass@k; si quieres la versión de ingeniería, empieza por evaluación de LLM.

La reacción que recoge WIRED no es anti-IA en el sentido simple. Varios matemáticos citados en la historia parecen entusiasmados con herramientas más potentes. Su preocupación es el poder institucional y el proceso científico.

WIRED escribe que algunos académicos sienten que las matemáticas se han convertido en un campo de pruebas para OpenAI y Anthropic mientras las empresas compiten por demostrar las capacidades de sus modelos. Nestor Guillen, profesor visitante de matemáticas en la New York University, dijo a WIRED que existe «una percepción de comportamiento mafioso» entre los matemáticos hacia las empresas de IA. McCallum, de OpenAI, respondió: «No estamos de acuerdo con esa caracterización».

La disputa más seria descrita por WIRED implica a Tristan Buckmaster, profesor de la New York University, y a Levent Alpöge, empleado de Anthropic. WIRED informa de que OpenAI desplegó miles de agentes en septiembre para trabajar en un Problema del Premio del Milenio tras oír «rumores» de que otros estaban cerca. Buckmaster acusó a OpenAI de adelantarse al trabajo que había hecho con Alpöge, un trabajo que la pareja aún no había publicado pero que había estado desarrollando con ayuda de herramientas de OpenAI.

El investigador de OpenAI Sébastien Bubeck negó haber pedido que Alpöge fuera excluido de la autoría, según el relato de WIRED sobre su respuesta. Aun así, el episodio muestra por qué la atribución se vuelve difícil cuando los investigadores usan herramientas propietarias, los laboratorios pueden observar algunos usos y los modelos internos pueden dirigirse a problemas adyacentes a gran escala.

La comunidad ya está respondiendo. WIRED menciona Hexagon, un repositorio de material matemático generado principalmente por IA, y Palomar, un registro de matemáticas verificadas por máquina. También cita la declaración de Leiden, un llamamiento firmado por más de 4.000 matemáticos que pide a las empresas de IA que cumplan los estándares de los matemáticos.

La dirección está clara: si las matemáticas generadas por IA se vuelven abundantes, las matemáticas necesitan nueva infraestructura para procedencia, revisión y verificación. GitHub puede formar parte de ello. No puede ser todo el proceso.

Una demostración no se acepta porque un modelo potente la emita. Se acepta porque una comunidad puede comprobarla.

Esa capa social es fácil de subestimar desde fuera. Las matemáticas suelen parecer lógica pura: o la demostración es válida o no lo es. En la práctica, una demostración también tiene que ser legible, estar contextualizada y conectada con el trabajo existente. Un campo necesita saber qué lemas están haciendo el trabajo, qué supuestos están ocultos, qué citas faltan y qué afirmaciones son lo bastante sólidas como para reutilizarse.

La IA tensiona ese sistema al cambiar el volumen. Una demostración difícil es un reto. Cientos de soluciones reivindicadas son un problema de colas. Si solo un pequeño número de expertos puede evaluar cada resultado, publicar un lote grande puede crear un atasco que parece progreso desde la perspectiva del laboratorio y escombros desde la perspectiva del campo.

Para quienes construyen IA, esta es la analogía útil: la capacidad sin capacidad de revisión crea riesgo operativo. Un agente de programación que abre 200 pull requests puede ser menos útil que uno que abre cinco revisables. Un agente de investigación que produce miles de afirmaciones candidatas necesita triaje. Un agente de negocio que realiza acciones en varias herramientas necesita puntos de aprobación, registros de auditoría y rutas de reversión. El mismo patrón aparece en las aprobaciones con intervención humana y en el trabajo de agentes de larga duración, donde el contexto, el estado y la supervisión importan más que una única respuesta impresionante.

La controversia matemática es un adelanto de lo que ocurre cuando generar se vuelve más barato que evaluar.

Las matemáticas son una prueba de estrés temprana porque tienen propiedades inusuales. Los problemas pueden formularse con precisión. Las demostraciones a veces pueden comprobarse formalmente. El prestigio está ligado a resolver preguntas abiertas con nombre propio. Y la comunidad tiene normas sólidas sobre prioridad, atribución y publicación.

Otros campos afrontarán una versión de la misma presión allí donde se den tres condiciones:

El software ya está ahí. El código puede generarse rápidamente, pero la corrección, la seguridad, la mantenibilidad y la propiedad siguen requiriendo revisión. La literatura científica está cerca: una IA puede proponer hipótesis o análisis más rápido de lo que los laboratorios pueden probarlos. El trabajo legal y médico está más restringido, pero comparte la misma asimetría entre una salida fluida y una verificación costosa.

La lección no es ralentizar todos los modelos por defecto. Es diseñar instituciones y sistemas en torno al cuello de botella. Si un modelo puede producir 1.000 artefactos plausibles, la pregunta de producto pasa a ser: ¿qué 10 debería ver un humano, en qué orden, con qué pruebas y bajo qué restricciones?

Ese también es el centro de diseño de los sistemas de agentes prácticos. Los flujos de trabajo multiagente necesitan enrutamiento, memoria, herramientas y rutas de escalado, pero también necesitan límites: qué puede ejecutarse automáticamente, qué requiere revisión y qué se registra para inspección posterior. Si estás construyendo en esa dirección, los problemas de ingeniería se solapan más con la orquestación multiagente que con la astucia del prompt.

Los informes apuntan a una lista breve de normas que reducirían la fricción.

Primero, publicar artículos, no solo anuncios. Las entradas de blog pueden explicar resultados, pero no deberían sustituir al objeto académico cuando la afirmación es un teorema.

Segundo, separar las demos de capacidad de las afirmaciones científicas. «Nuestro modelo produjo esta demostración» y «la comunidad acepta este resultado» son declaraciones distintas. Mantenerlas separadas protege tanto al laboratorio como al campo.

Tercero, revelar la procedencia. Si matemáticos externos usaron herramientas de IA, si un laboratorio tuvo acceso a interacciones de usuarios o si se desplegaron agentes internos tras oír hablar de trabajos competidores, la historia de atribución necesita algo más que una nota al pie.

Cuarto, usar registros e infraestructura de verificación. WIRED informa de que los matemáticos han animado a OpenAI a usar herramientas como Hexagon y Palomar. Si esas herramientas no son suficientes, los laboratorios deberían ayudar a mejorar el proceso en lugar de rodearlo.

Quinto, publicar a un ritmo revisable por humanos. Un volcado de cientos de resultados puede maximizar el espectáculo. No maximiza la comprensión.

La crisis de identidad, si la hay, no es que los matemáticos ya no importen. Es que la profesión quizá necesite redefinir cuál es su trabajo escaso. Hacer buenas preguntas, fijar estándares, verificar resultados, asignar crédito y convertir demostraciones aisladas en teoría utilizable se vuelve más importante cuando las máquinas pueden producir más respuestas candidatas.

Ese cambio es incómodo. También resulta familiar. Todo campo maduro desarrolla filtros cuando producir se vuelve barato. La IA está obligando a las matemáticas a construir esos filtros en público.

Para recibir más noticias claras sobre IA y guías prácticas, suscríbete a la newsletter de NeuraLIA Labs.

• La cuestión central no es solo si la IA puede resolver problemas matemáticos difíciles, sino si la comunidad matemática puede verificar y asimilar resultados a la misma velocidad.
• Según los informes, OpenAI ha afirmado haber logrado avances importantes en problemas abiertos desde hace mucho tiempo, incluido Navier–Stokes y más de 100 otras cuestiones abiertas, pero la aceptación depende del escrutinio de expertos.
• El resultado de distancia unitaria de Erdős muestra un patrón probable a corto plazo: los sistemas de IA pueden encontrar demostraciones importantes, mientras que los humanos aún las simplifican, contextualizan y amplían.
• Las preocupaciones de los matemáticos se centran en el proceso, la procedencia, la atribución, las normas de publicación y el riesgo de saturar los sistemas de revisión.
• El mismo cuello de botella entre generación y verificación está apareciendo en el software, la ciencia, el derecho, la medicina y los flujos de trabajo de IA agéntica.

Es la brecha entre la rapidez con la que los sistemas de IA pueden generar demostraciones o afirmaciones plausibles y la lentitud con la que los expertos pueden verificarlas, contextualizarlas, atribuirlas y reutilizarlas.

Según los informes, OpenAI ha afirmado que un modelo interno resolvió el problema del Premio del Milenio de Navier–Stokes, pero el artículo subraya que se requiere verificación por parte de la comunidad antes de que una afirmación así sea aceptada.

Sus preocupaciones incluyen los estándares de publicación, la autoría, la procedencia, las disputas de prioridad y la posibilidad de que grandes lotes de resultados generados por IA saturen la revisión experta.

Según los informes analizados, un modelo de OpenAI refutó la conjetura de las distancias unitarias de Erdős al recombinar ideas conocidas de forma útil, tras lo cual matemáticos humanos depuraron y ampliaron el trabajo.

El software, la investigación científica, el trabajo legal y el trabajo médico afrontan presiones similares porque la IA puede producir resultados rápidamente mientras que la validación sigue siendo cara y con consecuencias.