OpenAI의 수학 주장, AI 검증 병목을 드러내다

WIRED 보도는 프런티어 AI 연구소와 전문 수학자들 사이에서 절차를 둘러싼 갈등이 커지고 있다고 설명합니다. OpenAI 대변인 Lindsay McCallum은 WIRED에 회사가 8월 28일 새로운 내부 모델 학습을 시작했으며, 이 모델이 “Navier—Stokes 밀레니엄 상 문제를 해결”한 것 외에도 “수학 대부분의 분야에 걸쳐 100개가 넘는 오랜 미해결 문제를 해결했다”고 말했습니다.

이는 대단히 이례적인 주장이고, 매우 취약한 맥락 위에 놓여 있습니다. Navier–Stokes 문제는 밀레니엄 상 문제 중 하나로, 보통 해결이 인정되려면 전문가들의 장기간 정밀 검토가 필요합니다. 우리는 OpenAI의 Navier–Stokes 증명 주장에서 그 주장에 얽힌 검증의 중요성을 다뤘습니다. 헤드라인 결과도 중요하지만, “모델이 논증을 만들어냈다”에서 “학계가 정리를 받아들인다”로 가는 과정이 어려운 부분입니다.

WIRED는 또한 OpenAI가 GitHub에 미해결 문제 수백 개의 해답을 공개할 계획이라고 사람들에게 말했다고 보도했습니다. McCallum은 WIRED에 회사가 다음 수학 결과를 “책임 있게 공개하기 위해 노력 중”이며, Institute for Advanced Study의 Advisory Group on Mathematics and Artificial Intelligence가 제공한 조언과 공개 권고를 참고하고 있다고 말했습니다. 그는 또한 OpenAI가 공개 시점을 정하지 않았다고 밝혔습니다.

이 구분은 중요합니다. GitHub 공개는 소프트웨어에는 유용합니다. 하지만 프런티어 수학에 자동으로 맞는 단위는 아닙니다. 수학자들은 코드, 형식 증명, 개요, 논문을 읽을 수 있지만, 각 형식은 서로 다른 질문에 답합니다. 논증이 성립하는가? 핵심 아이디어는 누구에게 있었는가? 어떤 선행 연구에 의존하는가? 어떤 부분이 새롭고, 어떤 부분이 재조합인가? 다른 연구자들은 무엇을 인용해야 하는가?

8월 회의에 참석했던 Northwestern University 수학자 Bryna Kra는 WIRED에 참석자들이 OpenAI에 결과를 블로그 게시물이나 트윗에만 공개하지 말고, 수학자들이 “흡수하고, 소화하고, 사용할” 수 있는 논문을 쓰라고 요청했다고 말했습니다. Kra는 WIRED에 이렇게 말했습니다. “분명히 그 의견은 무시됐습니다.”

자료에서 가장 명확한 기술적 사례는 논란이 된 수백 개 결과 묶음이 아닙니다. OpenAI의 앞선 단위 거리 결과입니다.

Erdős 단위 거리 문제는 대략적으로, 평면 위의 점들 중 정확히 한 단위 떨어진 점 쌍이 몇 개까지 가능하냐고 묻습니다. Paul Erdős는 최적의 배열이 점의 개수보다 아주 조금 더 빠르게만 증가할 것이라고 추측했습니다. Ars Technica에 따르면 OpenAI의 모델은 전통적인 격자 기반 접근보다 더 복잡한 점 배열을 구성해 그가 틀렸음을 증명했습니다.

Ars는 이 방법을 알려진 수학적 아이디어의 영리한 재조합으로 설명합니다. 모델은 고차원 격자를 사용하고, 이를 2차원으로 투영한 뒤, 대수적 정수를 사용해 더 풍부한 구조를 만들었습니다. Ars의 평가에 따르면 이 결과는 진정으로 새로운 기법을 도입하지는 않았습니다. 이후 인간 수학자들이 그 작업을 정리하고 확장했습니다.

이 조합이 중요합니다. 의미가 있을 만큼 자율적이지만, 마법은 아닙니다. AI 시스템은 주요 미해결 추측을 해결하는 증명을 찾아냈지만, 그 결과에는 여전히 인간의 해석, 단순화, 확장, 그리고 문헌 속 위치 지정이 필요했습니다.

이는 연구에서 AI가 가까운 미래에 보여줄 가장 현실적인 모습입니다. 모델은 넓게 탐색하고, 하위 분야들을 연결하며, 사람에게는 지루할 수 있는 증명 전략을 밀어붙입니다. 인간은 어떤 질문이 중요한지 결정하고, 서술을 고치며, 작업을 점검하고, 다음 층위를 쌓아 올립니다. 이 분업이 영원히 유지되지는 않을 수 있지만, 제공된 보도에서 현재 확인되는 증거는 깔끔한 대체의 이야기보다 하이브리드 이야기를 더 뒷받침합니다.

이는 엔지니어들이 소프트웨어 에이전트에서 보고 있는 모습과도 닮았습니다. 프로덕션에서 가장 어려운 질문은 “모델이 답을 만들 수 있는가?”만이 아닙니다. “우리가 그것을 평가하고, 재현하고, 귀속을 정리하고, 안전하게 행동하게 할 수 있는가?”입니다. 그래서 작은 골든 세트부터 pass@k 같은 반복 실행 측정까지, 평가 설계가 핵심이 되었습니다. 엔지니어링 버전이 궁금하다면 LLM 평가부터 시작하세요.

WIRED가 보도한 반발은 단순한 의미의 반AI가 아닙니다. 기사에 인용된 여러 수학자들은 더 강력한 도구에 기대를 보이는 듯합니다. 그들의 우려는 제도적 권력과 과학적 절차에 있습니다.

WIRED는 일부 학계 인사들이 OpenAI와 Anthropic이 모델 역량을 보여주기 위해 경쟁하는 가운데, 수학이 그들의 시험장이 되었다고 느낀다고 썼습니다. New York University 방문 수학 교수 Nestor Guillen은 WIRED에 수학자들 사이에서 AI 회사들을 향해 “마피아식 행동이라는 인식”이 있다고 말했습니다. OpenAI의 McCallum은 “우리는 그런 묘사에 동의하지 않습니다”라고 답했습니다.

WIRED가 설명한 가장 심각한 분쟁은 New York University 교수 Tristan Buckmaster와 Anthropic 직원 Levent Alpöge를 둘러싼 것입니다. WIRED는 OpenAI가 다른 이들이 근접했다는 “소문”을 들은 뒤 9월에 수천 개의 에이전트를 투입해 한 밀레니엄 상 문제를 작업하게 했다고 보도했습니다. Buckmaster는 OpenAI가 자신과 Alpöge가 수행한 작업을 선점하려 했다고 비난했습니다. 두 사람은 아직 그 작업을 공개하지 않았지만, 개발을 돕기 위해 OpenAI 도구를 사용하고 있었습니다.

WIRED가 전한 답변에 따르면 OpenAI 연구원 Sébastien Bubeck은 Alpöge를 저자에서 제외하라고 요청했다는 주장을 부인했습니다. 그럼에도 이 사건은 연구자들이 독점 도구를 사용하고, 연구소가 일부 사용 현황을 관찰할 수 있으며, 내부 모델을 대규모로 인접 문제에 투입할 수 있을 때 귀속이 왜 어려워지는지를 보여줍니다.

커뮤니티는 이미 대응하고 있습니다. WIRED는 주로 AI가 생성한 수학 자료를 위한 저장소인 Hexagon과 기계 검증 수학의 등록부인 Palomar를 언급합니다. 또한 AI 회사들이 수학자들의 기준을 충족할 것을 요구하며 4,000명이 넘는 수학자들이 서명한 Leiden 선언도 인용합니다.

방향은 분명합니다. AI 생성 수학이 풍부해진다면 수학에는 출처, 검토, 검증을 위한 새로운 인프라가 필요합니다. GitHub는 그 일부가 될 수 있습니다. 하지만 전체 과정이 될 수는 없습니다.

강력한 모델이 증명을 내놓았다고 해서 그 증명이 받아들여지는 것은 아닙니다. 커뮤니티가 그것을 점검할 수 있을 때 받아들여집니다.

이 사회적 층위는 외부에서 과소평가하기 쉽습니다. 수학은 종종 순수한 논리처럼 보입니다. 증명이 유효하거나, 그렇지 않거나 둘 중 하나처럼 보입니다. 실제로는 증명 또한 읽을 수 있어야 하고, 맥락화되어야 하며, 기존 연구와 연결되어야 합니다. 한 분야는 어떤 보조정리가 실제 일을 하고 있는지, 어떤 가정이 숨어 있는지, 어떤 인용이 빠졌는지, 어떤 주장이 재사용할 만큼 강한지 알아야 합니다.

AI는 양을 바꾸면서 이 시스템에 압력을 가합니다. 어려운 증명 하나는 도전 과제입니다. 주장된 해답 수백 개는 대기열 문제입니다. 각 결과를 평가할 수 있는 전문가가 소수뿐이라면, 대규모 묶음 공개는 연구소의 관점에서는 진전처럼 보이고 해당 분야의 관점에서는 잔해처럼 보이는 백로그를 만들 수 있습니다.

AI 빌더에게 유용한 비유는 이것입니다. 검토 역량 없는 능력은 운영 리스크를 만듭니다. 200개의 pull request를 여는 코딩 에이전트는 검토 가능한 5개를 여는 에이전트보다 덜 유용할 수 있습니다. 수천 개의 후보 주장을 만들어내는 연구 에이전트에는 선별이 필요합니다. 여러 도구에 걸쳐 행동하는 비즈니스 에이전트에는 승인 지점, 감사 로그, 롤백 경로가 필요합니다. 같은 패턴은 휴먼 인 더 루프 승인에서도, 하나의 인상적인 답변보다 컨텍스트와 상태, 감독이 더 중요한 장기 실행 에이전트 작업에서도 나타납니다.

수학 논란은 생성이 평가보다 저렴해질 때 무슨 일이 벌어지는지를 미리 보여줍니다.

수학은 특이한 속성을 가지고 있기 때문에 초기 스트레스 테스트가 됩니다. 문제를 명확하게 진술할 수 있습니다. 증명은 때로 형식적으로 검증할 수 있습니다. 명명된 미해결 문제를 푸는 일에 명성이 걸려 있습니다. 그리고 커뮤니티는 우선권, 귀속, 출판을 둘러싼 강한 규범을 가지고 있습니다.

다른 분야들도 다음 세 조건이 충족되는 곳이라면 같은 압력의 한 버전을 겪게 될 것입니다.

소프트웨어는 이미 그 지점에 와 있습니다. 코드는 빠르게 생성될 수 있지만, 정확성, 보안, 유지보수성, 소유권은 여전히 검토를 요구합니다. 과학 문헌도 가깝습니다. AI는 연구실이 테스트할 수 있는 속도보다 더 빠르게 가설이나 분석을 제안할 수 있습니다. 법률과 의료 작업은 더 제약이 크지만, 유창한 출력과 비용이 큰 검증 사이의 같은 비대칭을 공유합니다.

교훈은 모든 모델을 기본적으로 늦추라는 것이 아닙니다. 병목을 중심으로 제도와 시스템을 설계하라는 것입니다. 모델이 그럴듯한 산출물 1,000개를 만들 수 있다면, 제품 질문은 이렇게 바뀝니다. 어떤 10개를 인간에게 보여줄 것인가, 어떤 순서로, 어떤 증거와 함께, 어떤 제약 아래에서?

이는 실용적인 에이전트 시스템의 설계 중심이기도 합니다. 멀티 에이전트 워크플로에는 라우팅, 메모리, 도구, 에스컬레이션 경로가 필요하지만, 경계도 필요합니다. 무엇을 자동으로 실행할 수 있는가, 무엇이 검토를 요구하는가, 무엇이 나중의 점검을 위해 기록되는가. 그 방향으로 구축하고 있다면, 엔지니어링 문제는 prompt 재치보다 멀티 에이전트 오케스트레이션과 더 많이 겹칩니다.

보도는 마찰을 줄일 수 있는 짧은 규범 목록을 가리킵니다.

첫째, 발표만이 아니라 논문을 공개해야 합니다. 블로그 게시물은 결과를 설명할 수 있지만, 주장이 정리라면 학술적 객체를 대체해서는 안 됩니다.

둘째, 역량 시연과 과학적 주장을 분리해야 합니다. “우리 모델이 이 증명을 만들었다”와 “커뮤니티가 이 결과를 받아들였다”는 서로 다른 진술입니다. 이를 분리하면 연구소와 학계 모두를 보호할 수 있습니다.

셋째, 출처를 공개해야 합니다. 외부 수학자들이 AI 도구를 사용했는지, 연구소가 사용자 상호작용에 접근할 수 있었는지, 경쟁 작업에 대해 들은 뒤 내부 에이전트를 배치했는지에 따라 귀속 이야기는 각주 이상의 설명을 필요로 합니다.

넷째, 등록부와 검증 인프라를 사용해야 합니다. WIRED는 수학자들이 OpenAI에 Hexagon과 Palomar 같은 도구를 사용하라고 권했다고 보도했습니다. 그런 도구가 충분하지 않다면, 연구소는 그 과정을 우회하기보다 개선하는 데 도움을 줘야 합니다.

다섯째, 인간이 검토할 수 있는 속도로 공개해야 합니다. 수백 개 결과를 한꺼번에 쏟아내는 것은 구경거리를 극대화할 수 있습니다. 이해를 극대화하지는 않습니다.

정체성의 위기가 있다면, 그것은 수학자들이 더 이상 중요하지 않다는 뜻이 아닙니다. 오히려 이 직업이 희소한 작업을 재정의해야 할 수 있다는 뜻입니다. 좋은 질문을 던지고, 기준을 세우고, 결과를 검증하고, 크레딧을 배정하며, 고립된 증명을 사용할 수 있는 이론으로 바꾸는 일은 기계가 더 많은 후보 답변을 만들어낼 수 있을 때 모두 더 중요해집니다.

그 변화는 불편합니다. 동시에 익숙한 일이기도 합니다. 생산이 저렴해지면 모든 성숙한 분야는 필터를 발전시킵니다. AI는 수학이 그 필터를 공개적으로 구축하도록 밀어붙이고 있습니다.

더 명확한 AI 뉴스와 실용적인 가이드를 받아보려면 NeuraLIA Labs 뉴스레터를 구독하세요.

• 핵심 문제는 AI가 어려운 수학 문제를 풀 수 있는지뿐만 아니라, 수학 커뮤니티가 같은 속도로 결과를 검증하고 흡수할 수 있는지입니다.
• OpenAI는 Navier–Stokes와 100개가 넘는 다른 미해결 문제를 포함해 오랜 문제들에서 중대한 진전을 이뤘다고 주장한 것으로 보도됐지만, 인정 여부는 전문가의 정밀 검토에 달려 있습니다.
• Erdős 단위 거리 결과는 가까운 미래의 패턴을 보여줍니다. AI 시스템은 중요한 증명을 찾아낼 수 있지만, 인간은 여전히 이를 단순화하고, 맥락화하고, 확장합니다.
• 수학자들의 우려는 절차, 출처, 귀속, 출판 규범, 그리고 검토 시스템을 압도할 위험에 초점을 맞춥니다.
• 같은 생성 대 검증 병목은 소프트웨어, 과학, 법률, 의료, 에이전트형 AI 워크플로에서도 나타나고 있습니다.

AI 시스템이 그럴듯한 증명이나 주장을 생성하는 속도와, 전문가들이 이를 검증하고 맥락화하며 귀속을 정리하고 재사용하는 느린 속도 사이의 간극입니다.

OpenAI가 내부 모델이 Navier–Stokes 밀레니엄 상 문제를 해결했다고 주장한 것으로 보도됐지만, 이 글은 그런 주장이 받아들여지려면 커뮤니티 검증이 필요하다는 점을 강조합니다.

우려에는 출판 기준, 저자 자격, 출처, 우선권 분쟁, 그리고 대규모 AI 생성 결과 묶음이 전문가 검토를 압도할 가능성이 포함됩니다.

논의된 보도에 따르면 OpenAI 모델은 알려진 아이디어를 유용한 방식으로 재조합해 Erdős 단위 거리 추측을 반증했고, 이후 인간 수학자들이 그 작업을 정리하고 확장했습니다.

소프트웨어, 과학 연구, 법률 업무, 의료 업무는 모두 AI가 빠르게 출력을 만들어낼 수 있는 반면 검증은 여전히 비싸고 중대한 결과를 낳기 때문에 비슷한 압력을 받습니다.