Le affermazioni matematiche di OpenAI rivelano il collo di bottiglia della verifica nell’AI

Il report di WIRED descrive un conflitto crescente tra i laboratori di AI frontier e i matematici professionisti sul processo. La portavoce di OpenAI Lindsay McCallum ha detto a WIRED che il 28 agosto l’azienda ha iniziato ad addestrare un nuovo modello interno e che, oltre ad aver «risolto il problema del Premio del millennio Navier–Stokes», il modello aveva «risolto più di 100 problemi aperti da tempo nella maggior parte delle aree della matematica».

È un’affermazione straordinaria, e si inserisce in un contesto fragile. Il problema di Navier–Stokes è uno dei Problemi del millennio, una classe di problemi la cui soluzione richiede normalmente un esame prolungato da parte di esperti. Abbiamo trattato la posta in gioco della verifica intorno a questa affermazione in la rivendicazione di OpenAI sulla prova di Navier–Stokes: il risultato principale conta, ma il passaggio da «il modello ha prodotto un argomento» a «il settore accetta il teorema» è la parte difficile.

WIRED ha anche riportato che OpenAI aveva detto ad alcune persone di voler pubblicare su GitHub centinaia di soluzioni a problemi irrisolti. McCallum ha detto a WIRED che l’azienda stava «lavorando per pubblicare responsabilmente» i prossimi risultati matematici e che si stava basando sui consigli e sulle raccomandazioni pubbliche dell’Advisory Group on Mathematics and Artificial Intelligence dell’Institute for Advanced Study. Ha anche detto che OpenAI non aveva fissato una data di pubblicazione.

Questa distinzione conta. Una pubblicazione su GitHub è utile per il software. Non è automaticamente l’unità giusta per la matematica di frontiera. I matematici possono leggere codice, prove formali, schemi e articoli, ma ogni formato risponde a una domanda diversa. L’argomento funziona? Chi ha avuto l’idea chiave? Da quali lavori precedenti dipende? Quali parti sono nuove e quali sono ricombinazioni? Cosa dovrebbero citare gli altri ricercatori?

Bryna Kra, una matematica della Northwestern University che ha partecipato all’incontro di agosto, ha detto a WIRED che i presenti hanno chiesto a OpenAI di non pubblicare i risultati soltanto in un post sul blog o in un tweet, ma di scrivere invece articoli che i matematici potessero «assorbire, digerire e usare». Kra ha detto a WIRED: «A quanto pare, quel contributo è stato ignorato».

L’esempio tecnico più chiaro nel materiale di partenza non è il contestato lotto di centinaia di risultati. È il precedente risultato di OpenAI sulle distanze unitarie.

Il problema di Erdős sulle distanze unitarie chiede, in sostanza, quante coppie di punti in un piano possano trovarsi esattamente a una unità di distanza. Paul Erdős aveva congetturato che la migliore disposizione possibile sarebbe cresciuta solo di pochissimo più rapidamente del numero di punti. Secondo Ars Technica, il modello di OpenAI ha dimostrato che aveva torto costruendo una disposizione di punti più complessa rispetto agli approcci tradizionali basati su griglie.

Ars descrive il metodo come una ricombinazione ingegnosa di idee matematiche note. Il modello ha usato una griglia ad alta dimensione, l’ha proiettata in due dimensioni e ha usato interi algebrici per creare una struttura più ricca. Secondo la valutazione di Ars, il risultato non ha introdotto tecniche davvero nuove. In seguito, matematici umani hanno ripulito ed esteso il lavoro.

Questa combinazione è importante: abbastanza autonoma da contare, ma non magica. Il sistema di AI ha trovato una prova che ha risolto un’importante congettura aperta, ma il risultato aveva comunque bisogno di interpretazione, semplificazione, estensione e collocazione nella letteratura da parte di esseri umani.

Questa è l’immagine più realistica a breve termine dell’AI nella ricerca: i modelli cercano in ampiezza, collegano sottocampi e macinano strategie di prova che sarebbero tediose per le persone; gli esseri umani decidono quali domande contano, sistemano l’esposizione, controllano il lavoro e costruiscono lo strato successivo. Questa divisione potrebbe non reggere per sempre, ma le prove attuali nei resoconti citati sostengono più una storia ibrida che una storia di sostituzione netta.

Assomiglia anche a ciò che gli ingegneri stanno vedendo negli agenti software. Le domande più difficili in produzione non sono solo «il modello può produrre una risposta?». Sono «possiamo valutarla, riprodurla, attribuirla e lasciarla agire in sicurezza?». Per questo la progettazione della valutazione è diventata centrale, dai piccoli golden set alle misure su esecuzioni ripetute come pass@k; se vuoi la versione ingegneristica, parti dalla valutazione degli LLM.

La reazione negativa descritta da WIRED non è anti-AI in senso semplice. Diversi matematici citati nell’articolo sembrano entusiasti di strumenti più potenti. La loro preoccupazione riguarda il potere istituzionale e il processo scientifico.

WIRED scrive che alcuni accademici ritengono che la matematica sia diventata un banco di prova per OpenAI e Anthropic, mentre le aziende competono per dimostrare le capacità dei modelli. Nestor Guillen, professore di matematica in visita alla New York University, ha detto a WIRED che tra i matematici c’è «una percezione di comportamento mafioso» verso le aziende di AI. McCallum di OpenAI ha risposto: «Non siamo d’accordo con questa caratterizzazione».

La disputa più seria descritta da WIRED coinvolge Tristan Buckmaster, professore alla New York University, e Levent Alpöge, dipendente di Anthropic. WIRED riporta che OpenAI ha impiegato migliaia di agenti a settembre per lavorare su un Problema del millennio dopo aver sentito «voci» secondo cui altri erano vicini alla soluzione. Buckmaster ha accusato OpenAI di aver anticipato il lavoro che aveva svolto con Alpöge, un lavoro che i due non avevano ancora pubblicato ma che avevano sviluppato anche con l’aiuto di strumenti OpenAI.

Il ricercatore di OpenAI Sébastien Bubeck ha negato di aver chiesto l’esclusione di Alpöge dalla paternità dell’opera, secondo il resoconto di WIRED sulla sua risposta. Tuttavia, l’episodio mostra perché l’attribuzione diventa difficile quando i ricercatori usano strumenti proprietari, i laboratori possono osservare alcuni utilizzi e i modelli interni possono essere indirizzati su problemi adiacenti su larga scala.

La comunità sta già reagendo. WIRED cita Hexagon, un repository per materiale matematico generato principalmente dall’AI, e Palomar, un registro di matematica verificata da macchine. Cita anche la dichiarazione di Leiden, un appello firmato da oltre 4.000 matematici che chiede alle aziende di AI di rispettare gli standard dei matematici.

La direzione è chiara: se la matematica generata dall’AI diventa abbondante, la matematica ha bisogno di una nuova infrastruttura per provenienza, revisione e verifica. GitHub può farne parte. Non può essere l’intero processo.

Una prova non viene accettata perché un modello potente la emette. Viene accettata perché una comunità può controllarla.

Questo livello sociale è facile da sottovalutare dall’esterno. La matematica spesso sembra logica pura: o la prova è valida o non lo è. In pratica, una prova deve anche essere leggibile, contestualizzata e collegata ai lavori esistenti. Un campo deve sapere quali lemmi stanno facendo il lavoro, quali ipotesi sono nascoste, quali citazioni mancano e quali affermazioni sono abbastanza solide da essere riutilizzate.

L’AI mette sotto pressione questo sistema cambiando il volume. Una prova difficile è una sfida. Centinaia di soluzioni rivendicate sono un problema di coda. Se solo un piccolo numero di esperti può valutare ogni risultato, pubblicare un grande lotto può creare un arretrato che dal punto di vista del laboratorio sembra progresso e dal punto di vista del settore sembra detrito.

Per chi costruisce AI, questa è l’analogia utile: la capacità senza capacità di revisione crea rischio operativo. Un agente di coding che apre 200 pull request può essere meno utile di uno che ne apre cinque revisionabili. Un agente di ricerca che produce migliaia di affermazioni candidate ha bisogno di triage. Un agente aziendale che esegue azioni tra strumenti ha bisogno di punti di approvazione, log di audit e percorsi di rollback. Lo stesso schema si vede nelle approvazioni con supervisione umana e nel lavoro agentico di lunga durata, dove contesto, stato e supervisione contano più di una singola risposta impressionante.

La controversia matematica è un’anteprima di ciò che accade quando generare diventa più economico che valutare.

La matematica è uno stress test precoce perché ha proprietà insolite. I problemi possono essere formulati in modo netto. Le prove a volte possono essere controllate formalmente. Il prestigio è legato alla soluzione di domande aperte con un nome. E la comunità ha norme forti su priorità, attribuzione e pubblicazione.

Altri campi affronteranno una versione della stessa pressione ovunque valgano tre condizioni:

Il software è già lì. Il codice può essere generato rapidamente, ma correttezza, sicurezza, manutenibilità e proprietà richiedono ancora revisione. La letteratura scientifica è vicina: un’AI può proporre ipotesi o analisi più velocemente di quanto i laboratori riescano a testarle. Il lavoro legale e medico è più vincolato, ma condivide la stessa asimmetria tra output fluido e verifica costosa.

La lezione non è rallentare ogni modello per impostazione predefinita. È progettare istituzioni e sistemi intorno al collo di bottiglia. Se un modello può produrre 1.000 artefatti plausibili, la domanda di prodotto diventa: quali 10 dovrebbe vedere un essere umano, in quale ordine, con quali prove e sotto quali vincoli?

Questo è anche il centro di progettazione dei sistemi agentici pratici. I workflow multi-agente hanno bisogno di routing, memoria, strumenti e percorsi di escalation, ma hanno anche bisogno di limiti: cosa può girare automaticamente, cosa richiede revisione e cosa viene registrato per un’ispezione successiva. Se stai costruendo in questa direzione, i problemi ingegneristici si sovrappongono più all’orchestrazione multi-agente che all’astuzia dei prompt.

I resoconti indicano una breve lista di norme che ridurrebbero l’attrito.

Primo, pubblicare articoli, non solo annunci. I post sul blog possono spiegare i risultati, ma non dovrebbero sostituire l’oggetto scientifico quando l’affermazione è un teorema.

Secondo, separare le demo di capacità dalle affermazioni scientifiche. «Il nostro modello ha prodotto questa prova» e «la comunità accetta questo risultato» sono due dichiarazioni diverse. Tenerle separate protegge sia il laboratorio sia il campo.

Terzo, dichiarare la provenienza. Se strumenti di AI sono stati usati da matematici esterni, se un laboratorio aveva accesso alle interazioni degli utenti, o se agenti interni sono stati impiegati dopo aver sentito parlare di lavori concorrenti, la storia dell’attribuzione richiede più di una nota a piè di pagina.

Quarto, usare registri e infrastrutture di verifica. WIRED riporta che i matematici hanno incoraggiato OpenAI a usare strumenti come Hexagon e Palomar. Se questi strumenti non sono sufficienti, i laboratori dovrebbero aiutare a migliorare il processo invece di aggirarlo.

Quinto, pubblicare a un ritmo revisionabile dagli esseri umani. Un dump di centinaia di risultati può massimizzare lo spettacolo. Non massimizza la comprensione.

La crisi d’identità, se ce n’è una, non è che i matematici non contino più. È che la professione potrebbe dover ridefinire il proprio lavoro scarso. Porre buone domande, fissare standard, verificare risultati, assegnare credito e trasformare prove isolate in teoria utilizzabile diventano tutti aspetti più importanti quando le macchine possono produrre più risposte candidate.

Questo cambiamento è scomodo. È anche familiare. Ogni campo maturo sviluppa filtri quando la produzione diventa economica. L’AI sta costringendo la matematica a costruire quei filtri in pubblico.

Per altre notizie chiare sull’AI e guide pratiche, iscriviti alla newsletter di NeuraLIA Labs.

• La questione centrale non è solo se l’AI possa risolvere problemi matematici difficili, ma se la comunità matematica possa verificare e assorbire i risultati alla stessa velocità.
• Secondo quanto riportato, OpenAI avrebbe rivendicato grandi progressi su problemi aperti da tempo, inclusi Navier–Stokes e più di 100 altre questioni aperte, ma l’accettazione dipende dall’esame degli esperti.
• Il risultato sulle distanze unitarie di Erdős mostra un probabile schema a breve termine: i sistemi di AI possono trovare prove importanti, mentre gli esseri umani continuano a semplificarle, contestualizzarle ed estenderle.
• Le preoccupazioni dei matematici si concentrano su processo, provenienza, attribuzione, norme di pubblicazione e rischio di sovraccaricare i sistemi di revisione.
• Lo stesso collo di bottiglia tra generazione e verifica sta comparendo in software, scienza, diritto, medicina e workflow di AI agentica.

È il divario tra la rapidità con cui i sistemi di AI possono generare prove o affermazioni plausibili e la lentezza con cui gli esperti possono verificarle, contestualizzarle, attribuirle e riutilizzarle.

Secondo quanto riportato, OpenAI avrebbe affermato che un modello interno ha risolto il problema del Premio del millennio Navier–Stokes, ma l’articolo sottolinea che la verifica della comunità è necessaria prima che una simile affermazione venga accettata.

Le loro preoccupazioni includono standard di pubblicazione, paternità, provenienza, dispute sulla priorità e la possibilità che grandi lotti di risultati generati dall’AI travolgano la revisione degli esperti.

Secondo i resoconti discussi, un modello OpenAI ha confutato la congettura di Erdős sulle distanze unitarie ricombinando idee note in modo utile; in seguito, matematici umani hanno ripulito ed esteso il lavoro.

Software, ricerca scientifica, lavoro legale e lavoro medico affrontano tutti pressioni simili, perché l’AI può produrre output rapidamente mentre la validazione resta costosa e ricca di conseguenze.