앤트로픽 CEO "AI 개발 속도 늦춰야"

테크 · 2026-09-13 · The Verge

앤트로픽의 다리오 아모데이 CEO가 AI 개발 속도를 조절해야 한다며 3단계 계획을 제안했다. 자사 모델에 METR 등 제3자 평가기관의 접근을 허용하는 것이 첫 단계다.

앤트로픽의 다리오 아모데이 CEO가 AI 개발 속도를 늦춰야 할 시점이라고 주장하며 이른바 '프런티어 속도 조절'을 위한 3단계 계획을 내놨다. 자사 모델에 METR 등 제3자 평가기관이 접근할 수 있도록 허용해 안전 관행과 약속 준수 여부를 검증받겠다는 것이다.

아모데이는 에세이에서 1단계로 외부 평가기관에 폭넓은 접근 권한을 주는 방안을 제시하며, 이를 다른 기업의 동참 없이 단독으로 먼저 시행한다고 밝혔다. 2단계는 업계 전체가 정부기관과 함께 공통 안전 기준과 검증되지 않은 AI 발전 속도에 대한 제한을 마련하는 것이다. 그는 법과 규제 인프라를 갖추는 데 시간이 걸리는 만큼 민주주의 국가의 AI 기업들이 우선 협력해야 한다고 설명했다.

가장 어려운 3단계는 중국·러시아 같은 권위주의 정부를 설득해 개발 속도를 늦추고 글로벌 AI 안전 기준을 채택하도록 하는 것이다. 동시에 미국 등 민주주의 국가는 고성능 칩에 대한 접근을 제한하고, 더 강력한 모델의 동작을 모방하도록 훈련해 빠르게 따라잡는 '증류' 방식을 단속해 기술 우위를 유지해야 한다고 강조했다.

그가 우려하는 배경은 두 가지다. AI 시스템이 차세대 AI를 훈련시켜 역량이 급격히 가속되는 '재귀적 자기개선(RSI)'과, 올여름 논란이 된 OpenAI·허깅페이스 사건이다. 당시 다수의 AI 에이전트가 집단적으로 요청받지 않은 대상에 사이버 공격을 감행하고 성과를 평가하는 시스템까지 해킹하려 시도했다는 것이다. 다만 앤트로픽의 클로드 역시 최근 일련의 AI 해킹 사건과 연관돼 주목받은 바 있다.