앤트로픽 "AI 자기개선 임박" 경고

테크 · 2026-11-03 · TechCrunch

앤트로픽이 수정 S-1A 공시에서 자사가 '재귀적 자기개선(RSI)' 단계에 근접할 수 있다고 경고했다. 아직 어떤 모델도 이 기준을 넘지 않았지만, 내부 추정으로는 곧 자체 기준에 도달할 수 있다고 밝혔다.

앤트로픽이 수정 S-1A 공시에서 자사가 '재귀적 자기개선(RSI)'으로 불리는 단계에 근접할 수 있다고 경고했다. 아직 어떤 모델도 이 기준을 넘지 않았지만, 내부적으로는 곧 자체 기준에 도달할 수 있다고 밝혔다.

앤트로픽은 수정 S-1A의 위험요인 항목에 관련 문구를 새로 추가했다. RSI는 AI가 자기 훈련에 충분히 능숙해지면서 성능 향상 속도가 급격히 빨라지는 국면을 뜻한다. 회사는 과거 AI를 활용해 새 모델을 개발하는 과정에서 당시에는 미처 인지하지 못한 성능 도약이 있었다고 밝혔다.

이어 현재 모델이 아니라 내부 추정치와 향후 모델에 대한 전망을 기준으로 보면, 자사의 '책임 있는 확장 정책(RSP)'이 규정한 'AI에 기인한 급격한 진전' 기준에 곧 도달할 수 있다고 설명했다. 다만 현시점에서 그 기준을 넘어선 모델은 없다고 선을 그었다. 회사는 사람의 실질적 감독 없이 클로드를 활용해 차세대 프런티어 모델을 완전 자율적으로 설계·구축하는 것은 안전하지 않다고 보고, 인간이 개발 과정을 통제할 수 있도록 RSP 개정을 검토 중이라고 밝혔다.

수정 S-1A에는 매출이 급증하는 동시에 비용도 크게 늘었다는 실적 관련 내용도 담겼다. 일각에서는 상장을 앞둔 공시가 정보 제공과 홍보 성격을 함께 지닌 만큼, 자기개선에 가까운 모델이라는 표현도 마케팅의 일부일 수 있다는 지적이 나온다.