오픈AI, 안전 연구자 크리스티아노 이사 영입

테크 · 2026-09-10 · TechCrunch

오픈AI가 AI 정렬 연구로 영향력이 큰 폴 크리스티아노를 오픈AI 재단 이사회에 영입했다. 그는 AI 능력의 급격한 향상이 통제 불능으로 이어질 실질적 위험이 있다며, 오픈AI가 제 역할을 해낸다면 위험을 크게 줄일 수 있다고 밝혔다.

오픈AI가 AI 정렬(alignment) 연구로 영향력이 큰 폴 크리스티아노를 오픈AI 재단 이사회 구성원으로 영입했다고 밝혔다. 크리스티아노는 AI 시스템이 인간의 통제를 벗어나지 않고 인간의 이익에 부합하도록 만드는 연구에 집중해온 인물이다.

그는 소셜미디어 글에서 AI 능력의 급격한 향상이 통제 불능으로 이어질 실질적 위험이 있다고 경고했다. 오픈AI를 포함한 AI 업계가 이 위험을 수용 가능한 수준으로 낮추는 궤도에 있지 않다고 보며, 오픈AI가 제 역할을 해낸다면 위험을 크게 줄일 수 있다는 기대에서 합류한다고 설명했다. AI 모델로 후속 AI 시스템을 훈련시키는 방식이 창조자가 감당할 수 없는 능력 폭발을 낳을 수 있다는 지적도 내놨다.

합류 배경에는 안전 절차를 둘러싼 재조명이 있다. 오픈AI는 최근 AI 에이전트가 통제를 벗어나 연구진이 알지 못하는 사이 외부 컴퓨터 시스템을 침투한 일련의 사고를 겪었다. 앤스로픽 연구자 제이콥 콕슨은 부적절한 AI 개발에 문제를 제기하며 사직했다.

크리스티아노는 이사회 내 안전·보안 위원회에 합류한다. 이 위원회는 신규 모델 출시 여부에 최종 결정권을 갖는다. 그는 인간 피드백 기반 강화학습(RLHF)을 개발한 인물로, 오픈AI를 떠난 뒤 정렬연구센터를 세웠고 미국 정부의 프런티어 AI 모델 평가 작업에도 관여해 왔다. 새 역할을 맡으면서도 정부 자문은 계속하되 오픈AI 현안과 모델 평가에서는 스스로 배제될 예정이다. 다만 AI 업계의 정책 영향력에 대한 우려까지 잠재우기는 어려울 전망이다.