OpenAI:n matematiikkaväitteet paljastavat AI:n verifioinnin pullonkaulan

WIREDin raportti kuvaa kasvavaa konfliktia frontier-AI-laboratorioiden ja ammattimatemaatikkojen välillä prosessista. OpenAI:n tiedottaja Lindsay McCallum kertoi WIREDille, että 28. elokuuta yhtiö alkoi kouluttaa uutta sisäistä mallia ja että ”Navier–Stokesin Millennium Prize -ongelman ratkaisemisen” lisäksi malli oli ”ratkaissut yli 100 pitkään avoinna ollutta ongelmaa useimmilta matematiikan alueilta”.

Se on poikkeuksellinen väite, ja se sijoittuu herkkään kontekstiin. Navier–Stokesin ongelma on yksi Millennium Prize Problems -ongelmista, joiden ratkaiseminen vaatii yleensä asiantuntijoilta pitkää tarkastelua. Käsittelimme tähän väitteeseen liittyviä verifioinnin panoksia artikkelissa OpenAI:n Navier–Stokes-todistusväite: otsikkotulos on tärkeä, mutta vaikea osa on matka väitteestä ”malli tuotti argumentin” siihen, että ”ala hyväksyy teoreeman”.

WIRED raportoi myös, että OpenAI oli kertonut ihmisille aikovansa julkaista satoja ratkaisuja ratkaisemattomiin ongelmiin GitHubissa. McCallum kertoi WIREDille, että yhtiö ”työskentelee julkaistakseen” seuraavat matematiikkatulokset vastuullisesti ja hyödyntää Institute for Advanced Studyn Advisory Group on Mathematics and Artificial Intelligence -ryhmän neuvoja ja julkisia suosituksia. Hän sanoi myös, ettei OpenAI ollut asettanut julkaisuajankohtaa.

Tällä erolla on merkitystä. GitHub-julkaisu on hyödyllinen ohjelmistolle. Se ei automaattisesti ole oikea yksikkö frontier-matematiikalle. Matemaatikot voivat lukea koodia, formaaleja todistuksia, hahmotelmia ja artikkeleita, mutta jokainen formaatti vastaa eri kysymykseen. Toimiiko argumentti? Kenellä oli keskeinen idea? Mihin aiempaan työhön se nojaa? Mitkä osat ovat uusia ja mitkä uudelleen yhdisteltyjä? Mihin muiden tutkijoiden pitäisi viitata?

Bryna Kra, Northwestern Universityn matemaatikko, joka osallistui elokuun tapaamiseen, kertoi WIREDille, että osallistujat pyysivät OpenAI:ta olemaan julkaisematta tuloksia vain blogikirjoituksessa tai twiitissä ja sen sijaan kirjoittamaan artikkeleita, joita matemaatikot voisivat ”omaksua, sulattaa ja käyttää”. Kra kertoi WIREDille: ”Ilmeisesti tämä palaute jätettiin huomiotta.”

Lähdemateriaalin selkein tekninen esimerkki ei ole kiistelty satojen tulosten erä. Se on OpenAI:n aiempi yksikköetäisyystulos.

Erdősin yksikköetäisyysongelma kysyy karkeasti, kuinka moni pistepari tasossa voi olla täsmälleen yhden yksikön päässä toisistaan. Paul Erdős esitti konjektuurin, että paras mahdollinen järjestely kasvaisi vain juuri ja juuri pisteiden määrää nopeammin. Ars Technican mukaan OpenAI:n malli osoitti hänen olleen väärässä rakentamalla perinteisiä ruudukkopohjaisia lähestymistapoja monimutkaisemman pistejärjestelyn.

Ars kuvaa menetelmää tunnettujen matemaattisten ideoiden oivaltavaksi uudelleenyhdistelmäksi. Malli käytti korkeaulotteista ruudukkoa, projisoi sen kahteen ulottuvuuteen ja käytti algebrallisia kokonaislukuja rikkaamman rakenteen luomiseen. Arsin arvion mukaan tulos ei esitellyt aidosti uusia tekniikoita. Ihmismatemaatikot siistivät ja laajensivat työtä myöhemmin.

Tämä yhdistelmä on tärkeä: riittävän autonominen ollakseen merkityksellinen, mutta ei taikuutta. AI-järjestelmä löysi todistuksen, joka ratkaisi merkittävän avoimen konjektuurin, mutta tulos tarvitsi silti ihmisten tulkintaa, yksinkertaistamista, laajentamista ja sijoittamista kirjallisuuteen.

Tämä on realistisin lähiajan kuva AI:sta tutkimuksessa: mallit etsivät laajasti, yhdistävät osa-aloja ja käyvät läpi todistusstrategioita, jotka olisivat ihmisille työläitä; ihmiset päättävät, mitkä kysymykset ovat tärkeitä, korjaavat esitystavan, tarkistavat työn ja rakentavat seuraavan kerroksen. Tämä työnjako ei välttämättä kestä ikuisesti, mutta toimitetussa raportoinnissa oleva nykyinen näyttö tukee enemmän hybriditarinaa kuin puhdasta korvaamistarinaa.

Se muistuttaa myös sitä, mitä insinöörit näkevät ohjelmistoagenteissa. Vaikeimmat tuotantokysymykset eivät ole vain ”voiko malli tuottaa vastauksen?” Ne ovat ”voimmeko arvioida sen, toistaa sen, attribuoida sen ja antaa sen toimia turvallisesti?” Siksi arviointisuunnittelusta on tullut keskeistä pienistä golden set -joukoista toistettujen ajojen mittareihin, kuten pass@k; jos haluat insinööriversion, aloita artikkelista LLM-arviointi.

WIREDin raportoima vastareaktio ei ole yksinkertaisessa mielessä AI-vastaisuutta. Useat jutussa siteeratut matemaatikot vaikuttavat innostuneilta vahvemmista työkaluista. Heidän huolensa koskee institutionaalista valtaa ja tieteellistä prosessia.

WIRED kirjoittaa, että osa akateemikoista kokee matematiikan muuttuneen OpenAI:n ja Anthropicin testikentäksi, kun yhtiöt kilpailevat mallien kyvykkyyden osoittamisesta. New York Universityn vieraileva matematiikan professori Nestor Guillen kertoi WIREDille, että matemaatikkojen keskuudessa on AI-yhtiöitä kohtaan ”mielikuva gangsterimaisesta toiminnasta”. OpenAI:n McCallum vastasi: ”Olemme eri mieltä tästä luonnehdinnasta.”

Vakavin WIREDin kuvaama kiista koskee New York Universityn professoria Tristan Buckmasteria ja Anthropicin työntekijää Levent Alpögeä. WIRED raportoi, että OpenAI otti syyskuussa käyttöön tuhansia agentteja työskentelemään Millennium Prize -ongelman parissa kuultuaan ”huhuja”, että muut olivat lähellä ratkaisua. Buckmaster syytti OpenAI:ta siitä, että se kiilasi hänen Alpögen kanssa tekemänsä työn edelle — työn, jota pari ei ollut vielä julkaissut mutta jonka kehittämisessä he olivat käyttäneet OpenAI:n työkaluja.

OpenAI:n tutkija Sébastien Bubeck kiisti pyytäneensä Alpögen sulkemista pois tekijyydestä WIREDin selostaman vastauksensa mukaan. Silti jakso näyttää, miksi attribuutio vaikeutuu, kun tutkijat käyttävät proprietaarisia työkaluja, laboratoriot voivat havainnoida osaa käytöstä ja sisäisiä malleja voidaan suunnata viereisiin ongelmiin suuressa mittakaavassa.

Yhteisö reagoi jo. WIRED mainitsee Hexagonin, ensisijaisesti AI:n tuottamalle matemaattiselle materiaalille tarkoitetun repositorion, ja Palomarin, koneellisesti verifioidun matematiikan rekisterin. Se viittaa myös Leidenin julistukseen, vetoomukseen, jonka on allekirjoittanut yli 4 000 matemaatikkoa ja jossa AI-yhtiöitä pyydetään noudattamaan matemaatikkojen standardeja.

Suunta on selvä: jos AI:n tuottamasta matematiikasta tulee runsasta, matematiikka tarvitsee uutta infrastruktuuria alkuperän, vertaisarvioinnin ja verifioinnin varmistamiseen. GitHub voi olla osa sitä. Se ei voi olla koko prosessi.

Todistusta ei hyväksytä siksi, että voimakas malli tuottaa sen. Se hyväksytään siksi, että yhteisö pystyy tarkistamaan sen.

Tätä sosiaalista kerrosta on helppo aliarvioida ulkopuolelta. Matematiikka näyttää usein puhtaalta logiikalta: joko todistus on pätevä tai se ei ole. Käytännössä todistuksen on myös oltava luettava, kontekstualisoitu ja kytketty olemassa olevaan työhön. Alan on tiedettävä, mitkä lemmat tekevät työn, mitkä oletukset ovat piilossa, mitkä viittaukset puuttuvat ja mitkä väitteet ovat riittävän vahvoja uudelleenkäytettäviksi.

AI kuormittaa tätä järjestelmää muuttamalla volyymia. Yksi vaikea todistus on haaste. Sadat väitetyt ratkaisut ovat jonotusongelma. Jos vain pieni määrä asiantuntijoita pystyy arvioimaan kunkin tuloksen, suuren erän julkaiseminen voi luoda ruuhkan, joka näyttää laboratorion näkökulmasta edistykseltä ja alan näkökulmasta romulta.

AI-rakentajille tämä on hyödyllinen analogia: kyvykkyys ilman arviointikapasiteettia luo operatiivista riskiä. Koodausagentti, joka avaa 200 pull requestia, voi olla vähemmän hyödyllinen kuin agentti, joka avaa viisi arvioitavissa olevaa. Tutkimusagentti, joka tuottaa tuhansia ehdokasväitteitä, tarvitsee priorisointia. Liiketoiminta-agentti, joka tekee toimia eri työkaluissa, tarvitsee hyväksyntäpisteitä, audit-lokeja ja palautuspolkuja. Sama kaava näkyy ihmisen hyväksynnöissä ja pitkäkestoisessa agenttityössä, jossa konteksti, tila ja valvonta merkitsevät enemmän kuin yksi vaikuttava vastaus.

Matematiikkakiista on ennakkonäytös siitä, mitä tapahtuu, kun tuottamisesta tulee halvempaa kuin arvioinnista.

Matematiikka on varhainen stressitesti, koska sillä on poikkeuksellisia ominaisuuksia. Ongelmat voidaan muotoilla tarkasti. Todistuksia voidaan joskus tarkistaa formaalisti. Arvostus liittyy nimettyjen avoimien kysymysten ratkaisemiseen. Ja yhteisöllä on vahvat normit prioriteetista, attribuutiosta ja julkaisemisesta.

Muut alat kohtaavat saman paineen version siellä, missä kolme ehtoa täyttyy:

Ohjelmistot ovat jo siellä. Koodia voidaan tuottaa nopeasti, mutta oikeellisuus, tietoturva, ylläpidettävyys ja omistajuus vaativat edelleen arviointia. Tieteellinen kirjallisuus on lähellä: AI voi ehdottaa hypoteeseja tai analyyseja nopeammin kuin laboratoriot voivat testata niitä. Juridinen ja lääketieteellinen työ ovat rajoitetumpia, mutta niissä on sama epäsymmetria sujuvan tuotoksen ja kalliin verifioinnin välillä.

Opetus ei ole hidastaa jokaista mallia oletuksena. Opetus on suunnitella instituutiot ja järjestelmät pullonkaulan ympärille. Jos malli voi tuottaa 1 000 uskottavaa artefaktia, tuotekysymykseksi tulee: mitkä 10 ihmisen pitäisi nähdä, missä järjestyksessä, millä näytöllä ja millaisin rajoittein?

Se on myös käytännöllisten agenttijärjestelmien suunnittelun keskus. Multi-agent-työnkulut tarvitsevat reititystä, muistia, työkaluja ja eskalointipolkuja, mutta ne tarvitsevat myös rajoja: mikä voi toimia automaattisesti, mikä vaatii arvioinnin ja mitä kirjataan myöhempää tarkastusta varten. Jos rakennat siihen suuntaan, insinööriongelmat limittyvät enemmän multi-agent-orkestroinnin kuin prompt-nokkeluuden kanssa.

Raportointi osoittaa lyhyeen normilistaan, joka vähentäisi kitkaa.

Ensinnäkin: julkaiskaa artikkeleita, ei vain ilmoituksia. Blogikirjoitukset voivat selittää tuloksia, mutta niiden ei pitäisi korvata tieteellistä julkaisua, kun väite on teoreema.

Toiseksi: erottakaa kyvykkyysdemot tieteellisistä väitteistä. ”Mallimme tuotti tämän todistuksen” ja ”yhteisö hyväksyy tämän tuloksen” ovat eri väitteitä. Niiden pitäminen erillään suojaa sekä laboratoriota että alaa.

Kolmanneksi: kertokaa alkuperä. Jos ulkopuoliset matemaatikot käyttivät AI-työkaluja, jos laboratoriolla oli pääsy käyttäjävuorovaikutuksiin tai jos sisäisiä agentteja otettiin käyttöön kilpailevasta työstä kuulemisen jälkeen, attribuutiotarina tarvitsee enemmän kuin alaviitteen.

Neljänneksi: käyttäkää rekistereitä ja verifiointi-infrastruktuuria. WIRED raportoi, että matemaatikot ovat kannustaneet OpenAI:ta käyttämään Hexagonin ja Palomarin kaltaisia työkaluja. Jos nämä työkalut eivät riitä, laboratorioiden pitäisi auttaa parantamaan prosessia sen kiertämisen sijaan.

Viidenneksi: julkaiskaa ihmisten arvioitavissa olevaan tahtiin. Satojen tulosten kerralla kaataminen voi maksimoida spektaakkelin. Se ei maksimoi ymmärrystä.

Identiteettikriisi, jos sellainen on, ei ole siinä, etteivät matemaatikot enää merkitse. Se on siinä, että ammattikunnan on ehkä määriteltävä niukka työnsä uudelleen. Hyvien kysymysten esittäminen, standardien asettaminen, tulosten verifiointi, krediitin jakaminen ja erillisten todistusten muuttaminen käyttökelpoiseksi teoriaksi muuttuvat kaikki tärkeämmiksi, kun koneet voivat tuottaa enemmän ehdokasvastauksia.

Muutos on epämukava. Se on myös tuttu. Jokainen kypsä ala kehittää suodattimia, kun tuotannosta tulee halpaa. AI pakottaa matematiikan rakentamaan nämä suodattimet julkisesti.

Jos haluat lisää selkeitä AI-uutisia ja käytännön oppaita, tilaa NeuraLIA Labsin uutiskirje.

• Keskeinen kysymys ei ole vain se, voiko AI ratkaista vaikeita matematiikan ongelmia, vaan se, pystyykö matematiikkayhteisö verifioimaan ja omaksumaan tuloksia samalla nopeudella.
• OpenAI:n on raportoitu väittäneen merkittävää edistystä pitkään avoinna olleissa ongelmissa, mukaan lukien Navier–Stokes ja yli 100 muuta avointa kysymystä, mutta hyväksyntä riippuu asiantuntijoiden tarkastelusta.
• Erdősin yksikköetäisyystulos näyttää todennäköisen lähiajan mallin: AI-järjestelmät voivat löytää tärkeitä todistuksia, mutta ihmiset yhä yksinkertaistavat, kontekstualisoivat ja laajentavat niitä.
• Matemaatikkojen huolet keskittyvät prosessiin, alkuperään, attribuutioon, julkaisunormeihin ja riskiin, että arviointijärjestelmät kuormittuvat liikaa.
• Sama tuottamisen ja verifioinnin välinen pullonkaula näkyy ohjelmistoissa, tieteessä, juridiikassa, lääketieteessä ja agenttisissa AI-työnkuluissa.

Se on kuilu sen välillä, kuinka nopeasti AI-järjestelmät voivat tuottaa uskottavia todistuksia tai väitteitä ja kuinka hitaasti asiantuntijat voivat verifioida, kontekstualisoida, attribuoida ja käyttää niitä uudelleen.

OpenAI:n on raportoitu väittäneen, että sisäinen malli ratkaisi Navier–Stokesin Millennium Prize -ongelman, mutta artikkeli korostaa, että yhteisön verifiointi tarvitaan ennen kuin tällainen väite hyväksytään.

Heidän huolensa koskevat julkaisustandardeja, tekijyyttä, alkuperää, prioriteettikiistoja ja mahdollisuutta, että suuret erät AI:n tuottamia tuloksia voisivat kuormittaa asiantuntija-arvioinnin liikaa.

Käsitellyn raportoinnin mukaan OpenAI:n malli kumosi Erdősin yksikköetäisyyskonjektuurin yhdistelemällä tunnettuja ideoita hyödyllisellä tavalla, minkä jälkeen ihmismatemaatikot siistivät ja laajensivat työtä.

Ohjelmistot, tieteellinen tutkimus, juridinen työ ja lääketieteellinen työ kohtaavat kaikki samankaltaista painetta, koska AI voi tuottaa tuotoksia nopeasti, kun taas validointi pysyy kalliina ja seurauksiltaan merkittävänä.