오픈AI의 밀레니엄 난제 도전, 수학계 뒤흔들다

테크 · 2026-09-12 · The Verge

오픈AI가 밀레니엄 상금 문제 가운데 하나를 자사 인공지능 모델로 풀어냈다고 밝히면서 수학계와 갈등이 커지고 있다. 통상 역사적 성취로 축하받을 일이지만, 막대한 자원을 앞세워 남의 연구 영역에 뛰어든 침입자라는 시선이 번지고 있다.

오픈AI가 수학계에서 최고 난도로 꼽히는 밀레니엄 상금 문제 가운데 하나를 자사 모델로 풀어냈다고 밝혔다. 통상 같으면 역사적 성취로 축하받을 일이지만, 수학계의 반응은 사뭇 다르다. 오픈AI를 새로 합류한 연구자라기보다 막대한 자원을 앞세워 남의 분야에 뛰어든 침입자로 보는 시선이 적지 않다.

이번 논란의 중심에는 유체 흐름을 다루는 난제가 있다. 오픈AI는 자사가 보유한 미공개 모델과 대규모 에이전트, 막대한 연산 자원을 동원해 짧은 시간 안에 해법을 찾아냈다고 주장한다. 경쟁 상대가 뉴욕대 교수와 경쟁사 앤스로픽 소속 연구자라는 사실을 파악한 뒤였다는 설명이다. 상대 연구진도 같은 문제를 파고들고 있었지만 증명을 끝내지는 못한 상태였다.

갈등은 이후 전개를 두고 격하게 엇갈린다. 한 교수는 오픈AI가 자신에게 막대한 연산 자원과 논문 단독 저자 자격을 제안했지만, 경쟁사 소속 연구자를 배제하는 조건이 붙었다고 말한다. 그는 이를 사실상의 회유로 규정하고 거절한 뒤, 자신이 써온 도구의 이용 기록이 모델 개선에 쓰였는지에 대한 의문도 제기했다. 오픈AI는 해당 연구자의 입력 데이터가 시스템에 영향을 줬을 가능성을 일축했지만, 앞선 설명에서는 그 가능성을 완전히 배제하지는 못한다고 인정한 바 있다.

오픈AI 연구진은 대화의 성격을 두고 다른 입장을 내놨다. 자원을 제공한 것은 사실이지만 다른 수학자들에게도 비슷한 제안을 했다는 설명이다. 다만 경쟁사 직원과 내부 프로젝트를 함께 진행하기 어렵다는 점은 걸림돌이었다고 인정했다. 수학계는 최고 권위의 난제를 둘러싼 인공지능 기업의 속도 경쟁이 연구 관행과 신뢰에 어떤 흔적을 남길지 주시하고 있다.