OpenAI의 수학 주장, AI 검증 병목을 드러내다
OpenAI 모델이 주요 수학 문제를 풀었다는 보도는 더 깊은 문제를 가리킵니다. 증명 생성은 더 저렴해지고 있지만, 검증과 귀속, 출판은 여전히 인간의 속도로 움직이고 있습니다.
블로그
아이디어, 업데이트와 AI의 모든 것.
AI 뉴스와 실전 가이드를 쉽게 설명합니다.
최신
무료 강좌
처음부터 배우는 AI
수학부터 LLM, 에이전트, MCP까지 다루는 인공지능 완전 강좌입니다. 총 30개 챕터로, 각 챕터만 읽어도 충분한 가치가 있습니다.
30개 챕터약 12시간 분량
초반 챕터
처음부터 만드는 퍼셉트론: 뉴런은 무엇을 계산하는가
뉴런은 가중합과 임계값입니다. 아이디어의 전부는 그것이고, 그 한계가 이후 모든 것을 밀어냈습니다.
손실 함수는 어디서 오는가: 관습이 아니라 likelihood
squared error는 관습이 아닙니다. noise에 대한 주장이고, 그 주장이 틀리는 모습을 직접 볼 수 있습니다.
내리막길: Gradient Descent와 모두가 건너뛰는 두 단계
모두가 마이너스 기호를 씁니다. 하지만 왜 거기에 있는지, 어느 정도 크기의 step까지 버티는지는 거의 말하지 않습니다.
분류, cross-entropy, 그리고 스스로를 속이지 않는 법
정확도는 보고하기 가장 쉬운 숫자이자, 가장 쉽게 속는 숫자입니다.
영상
모든 영상 보기
#173Test-time compute: making an AI better by letting it think longer
#172Reasoning tokens: the AI thinking you never see but still pay for
#171Emergent reasoning: the AI that started double-checking on its own
#170Process reward: grading an AI's working, not just its final answer
#169Verifiable rewards: training AI on answers a program can check
#168Tree of thoughts: how an AI searches through ideas, and what it costs
#167Self-consistency: ask an AI several times, then trust the majority
#166Think step by step: why a famous prompt works, and when it backfires
모든 글
Jev AI 모델은 글쓰기가 아니라 결정을 위해 만들어졌다
TypeSafe AI의 Jev가 주목받는 이유는 소프트웨어 지능을 확률 문제로 다루기 때문입니다. 올바른 분기를 선택하고, 신뢰도를 붙이며, 코드에 필요한 것이 결정일 때 LLM에 텍스트 작성을 맡기는 비용을 피합니다.
OpenAI의 Astra for Law는 새 모델이 아니라 법률 AI 시스템입니다
OpenAI의 법률 분야 출시는 새 기반 모델보다 그 주변 시스템에 가깝습니다. 도메인 검색, 신뢰할 수 있는 도구, 권한, 벤치마크, 검토 경로가 핵심입니다.
장기 실행 AI 에이전트를 위한 컨텍스트 엔지니어링
장기 실행 에이전트는 윈도우가 작아서만 실패하지 않습니다. 파일, 도구 출력, 오래된 기록이 에이전트가 완료해야 했던 작업을 밀어낼 때 실패합니다.
AI 속도 제한: 아모데이, 재귀적 자기 개선을 경고하다
다리오 아모데이는 외부 평가자, 공동 안전 표준, 국제 합의를 통해 프런티어 AI의 속도를 조절하자고 합니다. 어려운 점은 Anthropic이 사상 최대 규모 IPO를 준비 중인 것으로 알려진 상황에서 “너무 빠르다”가 무엇을 뜻하는지 정의하는 일입니다.
재귀적 자기 개선: AI 연구자들이 우려하는 이유
재귀적 자기 개선을 둘러싼 더 날카로운 우려는 이상한 챗봇 출력이 아닙니다. 지표를 최적화하고, 서로 조율하며, 다음 모델 구축을 돕는 에이전트가 핵심입니다. 이는 WIRED, MIT Technology Review, CNBC, The Guardian의 보도에서도 드러납니다.
OpenAI의 나비에–스토크스 증명 주장 해설
OpenAI는 AI 에이전트들이 나비에–스토크스 특이점을 찾고 그 증명을 Lean으로 형식화했다고 말합니다. 더 어려운 이야기는 그다음입니다. 검토, 공로 인정, 그리고 수학에서 비공개 에이전트 군집이 갖는 힘입니다.