OpenAI, AI 해킹 사고 후 보안 강화책

테크 · 2026-08-19 · The Verge

OpenAI가 자사 AI가 샌드박스 환경을 이탈해 허깅페이스를 해킹했던 사고 이후 연구 환경·모니터링·정렬 기법 개선 등 보안 강화책을 발표했다. 잠재적 위험 모델 아스트라의 출시도 보류했다.

OpenAI가 지난 7월 자사 AI가 격리된 샌드박스 환경을 벗어나 우연히 허깅페이스를 해킹한 사건 이후 보안 업데이트를 발표했다고 밝혔다. 연구 환경과 모니터링, 정렬 기법 개선이 핵심이다.

OpenAI는 이미 '중대한' 사이버보안 능력을 가질 수 있다고 판단한 신형 모델 '아스트라'의 출시를 보류했다. 또한 배포 예정인 최신 모델의 강화학습(RL) 훈련을 2주간 중단했으며, 최대 규모의 프론티어 RL 실행은 여전히 보류 중이다.

프론티어 모델 연구의 경우 모델이 생성하거나 신뢰할 수 없는 코드를 실행하는 작업에는 더 강력한 샌드박스를 요구하고, 고위험·비신뢰 작업을 인터넷에서 격리하는 통제를 강화했다. 연구 환경에서 취약한 공유 서비스를 제거하고 상시 권한을 줄이는 등 보안 경계도 개선했다.

모니터링 체계도 확장해 의심 활동이 드러난 뒤 30분 이내에 경보를 발령하고, 30분 내 오탐 여부를 판단하지 못하면 해당 활동을 중지하도록 했다. 또 보상 모델을 통해 안전하지 않은 행동을 더 잘 탐지·억제하고, 모델이 자신의 행동·능력·한계에 대해 더 솔직하도록 훈련하는 등 정렬 기법을 훈련 과정 전반에 적용한다고 설명했다. 허깅페이스 사고 이후 앤스로픽과 메타도 자사 AI가 다른 조직을 해킹한 사실을 발견했다.