Afirmațiile matematice ale OpenAI expun blocajul verificării în AI

Raportul WIRED descrie un conflict tot mai larg între laboratoarele AI de frontieră și matematicienii profesioniști în privința procesului. Purtătoarea de cuvânt OpenAI, Lindsay McCallum, a declarat pentru WIRED că, pe 28 august, compania a început antrenarea unui nou model intern și că, pe lângă „rezolvarea problemei Navier—Stokes din Millennium Prize”, modelul ar fi „rezolvat peste 100 de probleme deschise vechi din majoritatea zonelor matematicii”.

Este o afirmație extraordinară și apare într-un context fragil. Problema Navier–Stokes este una dintre Millennium Prize Problems, o clasă de probleme a căror rezolvare necesită în mod normal o examinare îndelungată din partea experților. Am acoperit miza verificării în jurul acestei afirmații în afirmația OpenAI privind demonstrația Navier–Stokes: rezultatul de titlu contează, dar drumul de la „modelul a produs un argument” la „domeniul acceptă teorema” este partea grea.

WIRED a mai relatat că OpenAI le-a spus unor persoane că plănuia să publice pe GitHub sute de soluții la probleme nerezolvate. McCallum a declarat pentru WIRED că firma „lucrează pentru a publica responsabil” următoarele rezultate matematice și că se bazează pe sfaturi și recomandări publice din partea Advisory Group on Mathematics and Artificial Intelligence de la Institute for Advanced Study. Ea a mai spus că OpenAI nu a stabilit un moment pentru publicare.

Această distincție contează. O publicare pe GitHub este utilă pentru software. Nu este automat unitatea potrivită pentru matematica de frontieră. Matematicienii pot citi cod, demonstrații formale, schițe și lucrări, dar fiecare format răspunde la o întrebare diferită. Funcționează argumentul? Cine a avut ideea-cheie? De ce lucrări anterioare depinde? Ce părți sunt noi și care sunt recombinări? Ce ar trebui să citeze alți cercetători?

Bryna Kra, matematiciană la Northwestern University care a participat la întâlnirea din august, a declarat pentru WIRED că participanții au cerut OpenAI să nu publice rezultatele doar într-o postare de blog sau într-un tweet, ci să scrie lucrări pe care matematicienii să le poată „absorbi, digera și folosi”. Kra a spus pentru WIRED: „Se pare că acel feedback a fost ignorat.”

Cel mai clar exemplu tehnic din materialul-sursă nu este lotul disputat de sute de rezultate. Este rezultatul anterior al OpenAI privind distanța unitară.

Problema distanței unitare a lui Erdős întreabă, în linii mari, câte perechi de puncte dintr-un plan pot fi exact la o unitate distanță. Paul Erdős a conjecturat că cel mai bun aranjament posibil ar crește doar foarte puțin mai repede decât numărul de puncte. Potrivit Ars Technica, modelul OpenAI a dovedit că se înșela, construind un aranjament de puncte mai complex decât abordările tradiționale bazate pe grile.

Ars descrie metoda ca pe o recombinare inteligentă a unor idei matematice cunoscute. Modelul a folosit o grilă cu multe dimensiuni, a proiectat-o în două dimensiuni și a folosit întregi algebrici pentru a crea o structură mai bogată. În evaluarea Ars, rezultatul nu a introdus tehnici cu adevărat noi. Matematicienii umani au curățat ulterior lucrarea și au extins-o.

Această combinație este importantă: suficient de autonomă cât să conteze, dar nu magie. Sistemul AI a găsit o demonstrație care a rezolvat o conjectură deschisă majoră, însă rezultatul tot a avut nevoie de interpretare umană, simplificare, extindere și plasare în literatura de specialitate.

Aceasta este cea mai realistă imagine pe termen scurt pentru AI în cercetare: modelele caută larg, conectează subdomenii și parcurg strategii de demonstrație care ar fi anevoioase pentru oameni; oamenii decid ce întrebări contează, repară expunerea, verifică lucrarea și construiesc următorul strat. Această împărțire poate să nu rămână valabilă pentru totdeauna, dar dovezile actuale din relatările disponibile susțin mai degrabă o poveste hibridă decât una de înlocuire curată.

Seamănă și cu ceea ce văd inginerii în agenții software. Cele mai dificile întrebări de producție nu sunt doar „poate modelul să producă un răspuns?”. Sunt „îl putem evalua, reproduce, atribui și lăsa să acționeze în siguranță?”. De aceea proiectarea evaluărilor a devenit centrală, de la seturi golden mici până la măsuri pe rulări repetate, precum pass@k; dacă vrei versiunea inginerească, începe cu evaluarea LLM.

Reacția de respingere relatată de WIRED nu este anti-AI în sens simplu. Mai mulți matematicieni citați în articol par entuziasmați de instrumente mai puternice. Îngrijorarea lor ține de puterea instituțională și de procesul științific.

WIRED scrie că unii academicieni simt că matematica a devenit un teren de probă pentru OpenAI și Anthropic, în timp ce companiile se întrec să demonstreze capabilitatea modelelor. Nestor Guillen, profesor invitat de matematică la New York University, a declarat pentru WIRED că există „o percepție de comportament mafiot” în rândul matematicienilor față de companiile AI. McCallum de la OpenAI a răspuns: „Nu suntem de acord cu această caracterizare.”

Cea mai serioasă dispută descrisă de WIRED îi implică pe Tristan Buckmaster, profesor la New York University, și Levent Alpöge, angajat Anthropic. WIRED relatează că OpenAI a desfășurat în septembrie mii de agenți pentru a lucra la o problemă Millennium Prize după ce a auzit „zvonuri” că alții erau aproape. Buckmaster a acuzat OpenAI că a încercat să devanseze o lucrare pe care o făcuse cu Alpöge, lucrare pe care cei doi nu o publicaseră încă, dar pe care o dezvoltaseră cu ajutorul instrumentelor OpenAI.

Cercetătorul OpenAI Sébastien Bubeck a negat că ar fi cerut ca Alpöge să fie exclus din lista de autori, potrivit relatării WIRED despre răspunsul său. Totuși, episodul arată de ce atribuirea devine dificilă când cercetătorii folosesc instrumente proprietare, laboratoarele pot observa o parte din utilizare, iar modelele interne pot fi orientate la scară mare către probleme adiacente.

Comunitatea reacționează deja. WIRED menționează Hexagon, un repository pentru material matematic generat în principal de AI, și Palomar, un registru de matematică verificată automat. Citează și declarația de la Leiden, un apel semnat de peste 4.000 de matematicieni care cer companiilor AI să respecte standardele matematicienilor.

Direcția este clară: dacă matematica generată de AI devine abundentă, matematica are nevoie de infrastructură nouă pentru proveniență, evaluare și verificare. GitHub poate fi o parte din asta. Nu poate fi întregul proces.

O demonstrație nu este acceptată pentru că o emite un model puternic. Este acceptată pentru că o comunitate o poate verifica.

Acest strat social este ușor de subestimat din exterior. Matematica pare adesea logică pură: fie demonstrația este validă, fie nu este. În practică, o demonstrație trebuie să fie și lizibilă, contextualizată și conectată la lucrările existente. Un domeniu trebuie să știe care leme fac munca grea, ce presupuneri sunt ascunse, ce citări lipsesc și ce afirmații sunt suficient de solide pentru a fi reutilizate.

AI pune presiune pe acest sistem schimbând volumul. O singură demonstrație dificilă este o provocare. Sute de soluții revendicate sunt o problemă de coadă de așteptare. Dacă doar un număr mic de experți poate evalua fiecare rezultat, publicarea unui lot mare poate crea un backlog care arată ca progres din perspectiva laboratorului și ca moloz din perspectiva domeniului.

Pentru constructorii de AI, aceasta este analogia utilă: capabilitatea fără capacitate de revizuire creează risc operațional. Un agent de programare care deschide 200 de pull request-uri poate fi mai puțin util decât unul care deschide cinci ce pot fi revizuite. Un agent de cercetare care produce mii de afirmații candidate are nevoie de triere. Un agent de business care execută acțiuni în mai multe instrumente are nevoie de puncte de aprobare, jurnale de audit și căi de rollback. Același tipar apare în aprobările human-in-the-loop și în munca agenților de lungă durată, unde contextul, starea și supravegherea contează mai mult decât un singur răspuns impresionant.

Controversa din matematică este o avanpremieră a ceea ce se întâmplă când generarea devine mai ieftină decât evaluarea.

Matematica este un test de stres timpuriu pentru că are proprietăți neobișnuite. Problemele pot fi formulate clar. Demonstrațiile pot fi uneori verificate formal. Prestigiul este legat de rezolvarea unor întrebări deschise cu nume propriu. Iar comunitatea are norme puternice privind prioritatea, atribuirea și publicarea.

Alte domenii vor întâlni o versiune a aceleiași presiuni oriunde sunt îndeplinite trei condiții:

Software-ul este deja acolo. Codul poate fi generat rapid, dar corectitudinea, securitatea, mentenabilitatea și proprietatea necesită încă revizuire. Literatura științifică este aproape: un AI poate propune ipoteze sau analize mai repede decât le pot testa laboratoarele. Munca juridică și cea medicală sunt mai constrânse, dar împărtășesc aceeași asimetrie între producția fluentă și verificarea costisitoare.

Lecția nu este să încetinim implicit fiecare model. Este să proiectăm instituții și sisteme în jurul blocajului. Dacă un model poate produce 1.000 de artefacte plauzibile, întrebarea de produs devine: care 10 ar trebui să ajungă la un om, în ce ordine, cu ce dovezi și sub ce constrângeri?

Acesta este și centrul de proiectare pentru sisteme agentice practice. Fluxurile de lucru multi-agent au nevoie de rutare, memorie, instrumente și căi de escaladare, dar au nevoie și de limite: ce poate rula automat, ce necesită revizuire și ce se jurnalizează pentru inspecție ulterioară. Dacă construiești în această direcție, problemele de inginerie se suprapun mai mult cu orchestrarea multi-agent decât cu ingeniozitatea prompturilor.

Relatările indică o listă scurtă de norme care ar reduce fricțiunea.

În primul rând, să publice lucrări, nu doar anunțuri. Postările de blog pot explica rezultatele, dar nu ar trebui să înlocuiască obiectul academic atunci când afirmația este o teoremă.

În al doilea rând, să separe demonstrațiile de capabilitate de afirmațiile științifice. „Modelul nostru a produs această demonstrație” și „comunitatea acceptă acest rezultat” sunt afirmații diferite. Menținerea lor separată protejează atât laboratorul, cât și domeniul.

În al treilea rând, să dezvăluie proveniența. Dacă instrumentele AI au fost folosite de matematicieni externi, dacă un laborator a avut acces la interacțiuni ale utilizatorilor sau dacă agenți interni au fost desfășurați după ce s-a aflat despre lucrări concurente, povestea atribuirii are nevoie de mai mult decât o notă de subsol.

În al patrulea rând, să folosească registre și infrastructură de verificare. WIRED relatează că matematicienii au încurajat OpenAI să folosească instrumente precum Hexagon și Palomar. Dacă aceste instrumente nu sunt suficiente, laboratoarele ar trebui să ajute la îmbunătățirea procesului, nu să îl ocolească.

În al cincilea rând, să publice într-un ritm pe care oamenii îl pot revizui. Un dump cu sute de rezultate poate maximiza spectacolul. Nu maximizează înțelegerea.

Criza de identitate, dacă există una, nu este că matematicienii nu mai contează. Este că profesia ar putea fi nevoită să își redefinească munca rară. Formularea întrebărilor bune, stabilirea standardelor, verificarea rezultatelor, atribuirea creditului și transformarea demonstrațiilor izolate în teorie utilizabilă devin toate mai importante când mașinile pot produce mai multe răspunsuri candidate.

Această schimbare este inconfortabilă. Este și familiară. Fiecare domeniu matur dezvoltă filtre când producția devine ieftină. AI obligă matematica să construiască aceste filtre în public.

Pentru mai multe știri clare despre AI și ghiduri practice, abonează-te la newsletterul NeuraLIA Labs.

• Problema centrală nu este doar dacă AI poate rezolva probleme grele de matematică, ci dacă comunitatea matematică poate verifica și absorbi rezultatele cu aceeași viteză.
• OpenAI ar fi revendicat progrese majore în probleme vechi, inclusiv Navier–Stokes și peste 100 de alte întrebări deschise, dar acceptarea depinde de examinarea experților.
• Rezultatul privind distanța unitară a lui Erdős arată un tipar probabil pe termen scurt: sistemele AI pot găsi demonstrații importante, în timp ce oamenii încă le simplifică, le contextualizează și le extind.
• Îngrijorările matematicienilor se concentrează pe proces, proveniență, atribuire, norme de publicare și riscul de a copleși sistemele de revizuire.
• Același blocaj între generare și verificare apare în software, știință, drept, medicină și fluxuri de lucru AI agentice.

Este decalajul dintre cât de repede pot genera sistemele AI demonstrații sau afirmații plauzibile și cât de încet le pot verifica, contextualiza, atribui și reutiliza experții.

OpenAI ar fi susținut că un model intern a rezolvat problema Navier–Stokes din Millennium Prize, dar articolul subliniază că este necesară verificarea comunității înainte ca o astfel de afirmație să fie acceptată.

Îngrijorările lor includ standardele de publicare, autoratul, proveniența, disputele de prioritate și posibilitatea ca loturi mari de rezultate generate de AI să copleșească evaluarea experților.

Potrivit relatărilor discutate, un model OpenAI a infirmat conjectura distanței unitare a lui Erdős prin recombinarea unor idei cunoscute într-un mod util, după care matematicienii umani au curățat și extins lucrarea.

Software-ul, cercetarea științifică, munca juridică și cea medicală se confruntă cu presiuni similare, deoarece AI poate produce rapid rezultate, în timp ce validarea rămâne costisitoare și cu consecințe importante.