앤트로픽, 자기개선 AI 연구 결과 공개

테크 · 2026-08-29 · TechCrunch

앤트로픽 펠로우 연구원이 AI 모델이 스스로 훈련 성능을 개선하는 '자기개선 AI' 초기 연구를 논문으로 공개했다. 자동화 시스템은 정렬 실패 벤치마크 10개 모두에서 성능 저하 없이 개선을 달성했다.

앤트로픽 펠로우 연구원이 AI 모델을 다른 AI로 훈련하는 '자기개선 AI'의 초기 실험 결과를 담은 논문을 공개했다. '자동화 연구자가 정렬 실패를 안정적으로 완화할 수 있다'는 제목의 이 논문은 AI 시스템이 자체 정렬(alignment) 벤치마크 성능을 개선할 수 있음을 보여준다.

연구팀은 특정 정렬 실패 행동 10개 벤치마크를 제시했고, 자동화 시스템은 전반적 성능 저하 없이 모든 항목에서 성능을 끌어올렸다. 시스템은 기존 문헌을 검색해 방법을 제안하고 30분간 모델을 훈련하는 과정을 반복하면서 효과적인 방법만 남기는 방식으로 작동한다. 논문은 "자동화된 정렬 후 훈련이 가까운 시일 내 실용화될 수 있다는 초기 증거"라고 평가했다.

논문은 최고 성능의 자동 정렬 연구자(AAR)가 평균 6시간 안에 경험 많은 인간 연구자의 제안을 능가했다고 밝혔다. 비용 측면에서도 AAR은 시간당 약 4달러 수준의 API 비용만 드는 반면 인간 연구자는 시간당 150달러가 든다고 비교했다. 다만 벤치마크가 실제 정렬 목표를 반영해야 한다는 점과 연구 문헌의 유지·확장이 필요하다는 한계도 명시했다. 이번 연구는 AI가 자체 훈련 방식을 개선하는 '재귀적 자기개선'으로 가는 한 단계로, 인간 연구자의 역할 변화 가능성을 시사한다.