Twierdzenia OpenAI w matematyce obnażają wąskie gardło weryfikacji AI

Raport WIRED opisuje narastający konflikt między czołowymi laboratoriami AI a zawodowymi matematykami dotyczący procesu. Rzeczniczka OpenAI Lindsay McCallum powiedziała WIRED, że 28 sierpnia firma zaczęła trenować nowy model wewnętrzny i że oprócz „rozwiązania problemu milenijnego Naviera–Stokesa” model „rozwiązał ponad 100 nierozstrzygniętych od dawna problemów z większości obszarów matematyki”.

To niezwykłe twierdzenie, osadzone w delikatnym kontekście. Problem Naviera–Stokesa jest jednym z problemów milenijnych, czyli klasy problemów, których rozwiązanie zwykle wymaga długotrwałej kontroli ekspertów. Stawkę weryfikacji wokół tego twierdzenia omówiliśmy w tekście twierdzenie OpenAI o dowodzie problemu Naviera–Stokesa: głośny wynik ma znaczenie, ale najtrudniejsza jest droga od „model wygenerował argument” do „dziedzina akceptuje twierdzenie”.

WIRED podał też, że OpenAI informowało ludzi o planie opublikowania na GitHubie setek rozwiązań nierozwiązanych problemów. McCallum powiedziała WIRED, że firma „pracuje nad odpowiedzialnym opublikowaniem” kolejnych wyników matematycznych i korzysta z porad oraz publicznych rekomendacji Advisory Group on Mathematics and Artificial Intelligence przy Institute for Advanced Study. Dodała też, że OpenAI nie wyznaczyło terminu publikacji.

To rozróżnienie ma znaczenie. Publikacja na GitHubie jest użyteczna w przypadku oprogramowania. Nie jest automatycznie właściwą jednostką dla matematyki na granicy badań. Matematycy potrafią czytać kod, dowody formalne, szkice i artykuły, ale każdy z tych formatów odpowiada na inne pytanie. Czy argument działa? Kto miał kluczowy pomysł? Na jakich wcześniejszych pracach się opiera? Które części są nowe, a które są rekombinacjami? Co powinni cytować inni badacze?

Bryna Kra, matematyczka z Northwestern University, która uczestniczyła w sierpniowym spotkaniu, powiedziała WIRED, że uczestnicy prosili OpenAI, by nie publikowało wyników wyłącznie w poście na blogu lub tweecie, lecz pisało artykuły, które matematycy mogliby „przyswoić, zrozumieć i wykorzystać”. Kra powiedziała WIRED: „Najwyraźniej ten głos został zignorowany”.

Najczytelniejszym przykładem technicznym w materiale źródłowym nie jest sporna partia setek wyników. Jest nim wcześniejszy wynik OpenAI dotyczący odległości jednostkowych.

Problem Erdősa o odległościach jednostkowych pyta, w przybliżeniu, ile par punktów na płaszczyźnie może być oddalonych dokładnie o jedną jednostkę. Paul Erdős przypuszczał, że najlepszy możliwy układ będzie rósł tylko nieznacznie szybciej niż liczba punktów. Według Ars Technica model OpenAI dowiódł, że się mylił, konstruując bardziej złożony układ punktów niż tradycyjne podejścia oparte na siatce.

Ars opisuje tę metodę jako sprytną rekombinację znanych idei matematycznych. Model użył siatki wysokowymiarowej, rzutował ją na dwa wymiary i wykorzystał liczby algebraiczne całkowite, aby stworzyć bogatszą strukturę. Według oceny Ars wynik nie wprowadził naprawdę nowych technik. Później matematycy dopracowali i rozszerzyli tę pracę.

Ta kombinacja jest ważna: wystarczająco autonomiczna, by mieć znaczenie, ale nie magiczna. System AI znalazł dowód, który rozwiązał ważną otwartą hipotezę, a jednak wynik nadal wymagał ludzkiej interpretacji, uproszczenia, rozszerzenia i umieszczenia w literaturze.

To najbardziej realistyczny obraz AI w badaniach w najbliższym czasie: modele przeszukują szeroko, łączą poddziedziny i mozolnie przechodzą przez strategie dowodowe, które byłyby żmudne dla ludzi; ludzie decydują, które pytania są ważne, poprawiają sposób prezentacji, sprawdzają pracę i budują kolejną warstwę. Taki podział może nie utrzymać się na zawsze, ale obecne dowody z przytoczonych doniesień wspierają raczej opowieść hybrydową niż opowieść o czystym zastąpieniu.

Przypomina to także to, co inżynierowie widzą w agentach programistycznych. Najtrudniejsze pytania produkcyjne nie brzmią tylko: „czy model potrafi wygenerować odpowiedź?”. Brzmią: „czy potrafimy ją ocenić, odtworzyć, przypisać i bezpiecznie pozwolić jej działać?”. Dlatego projektowanie ewaluacji stało się kluczowe, od małych złotych zbiorów po miary wielokrotnych uruchomień, takie jak pass@k; jeśli chcesz poznać wersję inżynierską, zacznij od ewaluacji LLM.

Sprzeciw opisywany przez WIRED nie jest prostym anty-AI. Kilku matematyków cytowanych w tekście wydaje się podekscytowanych mocniejszymi narzędziami. Ich obawy dotyczą władzy instytucjonalnej i procesu naukowego.

WIRED pisze, że część akademików uważa, iż matematyka stała się poligonem doświadczalnym dla OpenAI i Anthropic, gdy firmy ścigają się w pokazywaniu możliwości modeli. Nestor Guillen, profesor wizytujący matematyki na New York University, powiedział WIRED, że wśród matematyków wobec firm AI istnieje „poczucie mafijnego zachowania”. McCallum z OpenAI odpowiedziała: „Nie zgadzamy się z taką charakterystyką”.

Najpoważniejszy spór opisany przez WIRED dotyczy Tristana Buckmastera, profesora New York University, oraz Leventa Alpöge, pracownika Anthropic. WIRED podaje, że we wrześniu OpenAI uruchomiło tysiące agentów do pracy nad problemem milenijnym po usłyszeniu „pogłosek”, że inni są blisko. Buckmaster oskarżył OpenAI o wyprzedzanie pracy, którą prowadził z Alpöge — pracy, której para jeszcze nie opublikowała, ale do której rozwijania używała narzędzi OpenAI.

Badacz OpenAI Sébastien Bubeck zaprzeczył, jakoby prosił o wyłączenie Alpöge z autorstwa, zgodnie z relacją WIRED dotyczącą jego odpowiedzi. Mimo to epizod pokazuje, dlaczego przypisywanie autorstwa staje się trudne, gdy badacze używają narzędzi własnościowych, laboratoria mogą obserwować część użycia, a modele wewnętrzne można kierować na sąsiednie problemy na dużą skalę.

Społeczność już reaguje. WIRED wspomina Hexagon, repozytorium głównie generowanych przez AI materiałów matematycznych, oraz Palomar, rejestr matematyki weryfikowanej maszynowo. Przywołuje także deklarację z Lejdy, apel podpisany przez ponad 4 000 matematyków wzywający firmy AI do spełniania standardów matematyków.

Kierunek jest jasny: jeśli matematyka generowana przez AI stanie się obfita, matematyka potrzebuje nowej infrastruktury do ustalania pochodzenia, recenzji i weryfikacji. GitHub może być jej częścią. Nie może być całym procesem.

Dowód nie zostaje zaakceptowany dlatego, że wyemitował go potężny model. Zostaje zaakceptowany dlatego, że społeczność może go sprawdzić.

Tę warstwę społeczną łatwo z zewnątrz niedocenić. Matematyka często wygląda jak czysta logika: dowód jest poprawny albo nie. W praktyce dowód musi być też czytelny, osadzony w kontekście i połączony z istniejącą pracą. Dziedzina musi wiedzieć, które lemata wykonują zasadniczą pracę, które założenia są ukryte, których cytowań brakuje i które twierdzenia są na tyle mocne, by można było je ponownie wykorzystać.

AI obciąża ten system, zmieniając skalę. Jeden trudny dowód jest wyzwaniem. Setki zgłaszanych rozwiązań to problem kolejkowania. Jeśli tylko niewielka liczba ekspertów może ocenić każdy wynik, publikacja dużej partii może stworzyć zaległość, która z perspektywy laboratorium wygląda jak postęp, a z perspektywy dziedziny jak gruzowisko.

Dla twórców AI to użyteczna analogia: możliwości bez zdolności recenzji tworzą ryzyko operacyjne. Agent kodujący, który otwiera 200 pull requestów, może być mniej pomocny niż taki, który otwiera pięć możliwych do zrecenzowania. Agent badawczy produkujący tysiące kandydackich twierdzeń potrzebuje triage’u. Agent biznesowy podejmujący działania w różnych narzędziach potrzebuje punktów zatwierdzania, dzienników audytu i ścieżek wycofania. Ten sam wzorzec pojawia się w zatwierdzeniach human-in-the-loop oraz w długotrwałej pracy agentów, gdzie kontekst, stan i nadzór znaczą więcej niż jedna imponująca odpowiedź.

Kontrowersja matematyczna jest zapowiedzią tego, co dzieje się, gdy generowanie staje się tańsze niż ewaluacja.

Matematyka jest wczesnym testem obciążeniowym, ponieważ ma nietypowe właściwości. Problemy można formułować precyzyjnie. Dowody czasem da się sprawdzać formalnie. Prestiż wiąże się z rozwiązywaniem nazwanych otwartych pytań. A społeczność ma silne normy dotyczące pierwszeństwa, autorstwa i publikacji.

Inne dziedziny zmierzą się z wersją tej samej presji wszędzie tam, gdzie spełnione są trzy warunki:

Oprogramowanie już tam jest. Kod można generować szybko, ale poprawność, bezpieczeństwo, utrzymywalność i własność nadal wymagają recenzji. Literatura naukowa jest blisko: AI może proponować hipotezy lub analizy szybciej, niż laboratoria są w stanie je testować. Praca prawna i medyczna są bardziej ograniczone, ale dzielą tę samą asymetrię między płynnym wynikiem a kosztowną weryfikacją.

Lekcja nie polega na tym, by domyślnie spowalniać każdy model. Polega na projektowaniu instytucji i systemów wokół wąskiego gardła. Jeśli model potrafi wytworzyć 1 000 wiarygodnych artefaktów, pytanie produktowe brzmi: które 10 powinien zobaczyć człowiek, w jakiej kolejności, z jakimi dowodami i pod jakimi ograniczeniami?

To także centrum projektowania praktycznych systemów agentowych. Wieloagentowe przepływy pracy potrzebują routingu, pamięci, narzędzi i ścieżek eskalacji, ale potrzebują też granic: co może działać automatycznie, co wymaga recenzji i co jest logowane do późniejszej inspekcji. Jeśli budujesz w tym kierunku, problemy inżynierskie nakładają się bardziej na orkiestrację wieloagentową niż na sprytne promptowanie.

Doniesienia wskazują krótką listę norm, które ograniczyłyby tarcia.

Po pierwsze, publikować artykuły, nie tylko ogłoszenia. Posty na blogu mogą wyjaśniać wyniki, ale nie powinny zastępować obiektu naukowego, gdy twierdzenie jest teorematem.

Po drugie, oddzielać demonstracje możliwości od twierdzeń naukowych. „Nasz model wygenerował ten dowód” i „społeczność akceptuje ten wynik” to różne stwierdzenia. Ich rozdzielenie chroni zarówno laboratorium, jak i dziedzinę.

Po trzecie, ujawniać pochodzenie. Jeśli narzędzi AI używali zewnętrzni matematycy, jeśli laboratorium miało dostęp do interakcji użytkowników albo jeśli wewnętrzni agenci zostali uruchomieni po usłyszeniu o konkurencyjnej pracy, historia przypisania wymaga czegoś więcej niż przypisu.

Po czwarte, używać rejestrów i infrastruktury weryfikacyjnej. WIRED podaje, że matematycy zachęcali OpenAI do korzystania z narzędzi takich jak Hexagon i Palomar. Jeśli te narzędzia nie są wystarczające, laboratoria powinny pomóc ulepszyć proces, zamiast go obchodzić.

Po piąte, publikować w tempie możliwym do zrecenzowania przez ludzi. Zrzut setek wyników może maksymalizować spektakl. Nie maksymalizuje zrozumienia.

Kryzys tożsamości, jeśli istnieje, nie polega na tym, że matematycy przestają mieć znaczenie. Polega na tym, że profesja może potrzebować przedefiniować swoją rzadką pracę. Zadawanie dobrych pytań, ustalanie standardów, weryfikowanie wyników, przypisywanie zasług i zamienianie izolowanych dowodów w użyteczną teorię stają się ważniejsze, gdy maszyny mogą produkować więcej kandydackich odpowiedzi.

Ta zmiana jest niewygodna. Jest też znajoma. Każda dojrzała dziedzina rozwija filtry, gdy produkcja staje się tania. AI zmusza matematykę, by budowała te filtry publicznie.

Aby otrzymywać więcej klarownych wiadomości o AI i praktycznych poradników, zapisz się do newslettera NeuraLIA Labs.

• Głównym problemem nie jest tylko to, czy AI potrafi rozwiązywać trudne problemy matematyczne, ale to, czy społeczność matematyczna może weryfikować i przyswajać wyniki w tym samym tempie.
• Według doniesień OpenAI twierdziło, że osiągnęło duży postęp w nierozstrzygniętych od dawna problemach, w tym Naviera–Stokesa i ponad 100 innych otwartych pytań, ale akceptacja zależy od kontroli ekspertów.
• Wynik dotyczący odległości jednostkowych Erdősa pokazuje prawdopodobny wzorzec na najbliższy czas: systemy AI mogą znajdować ważne dowody, podczas gdy ludzie nadal je upraszczają, osadzają w kontekście i rozszerzają.
• Obawy matematyków koncentrują się na procesie, pochodzeniu, przypisywaniu autorstwa, normach publikacji i ryzyku przeciążenia systemów recenzji.
• To samo wąskie gardło między generowaniem a weryfikacją pojawia się w oprogramowaniu, nauce, prawie, medycynie i agentowych przepływach pracy AI.

To luka między tym, jak szybko systemy AI mogą generować wiarygodne dowody lub twierdzenia, a tym, jak wolno eksperci mogą je weryfikować, osadzać w kontekście, przypisywać i ponownie wykorzystywać.

Według doniesień OpenAI twierdziło, że wewnętrzny model rozwiązał problem milenijny Naviera–Stokesa, ale artykuł podkreśla, że zanim takie twierdzenie zostanie zaakceptowane, wymagana jest weryfikacja społeczności.

Ich obawy obejmują standardy publikacji, autorstwo, pochodzenie, spory o pierwszeństwo oraz możliwość, że duże partie wyników generowanych przez AI przeciążą recenzję ekspercką.

Według omawianych doniesień model OpenAI obalił hipotezę Erdősa o odległościach jednostkowych, rekombinując znane idee w użyteczny sposób, po czym matematycy dopracowali i rozszerzyli tę pracę.

Oprogramowanie, badania naukowe, praca prawna i praca medyczna stoją pod podobną presją, ponieważ AI może szybko produkować wyniki, podczas gdy walidacja pozostaje kosztowna i brzemienna w skutki.