오픈AI, 모델 이상행동 공개…안전 프레임워크 발표

테크 · 2026-09-17 · CNBC

오픈AI가 최근 반년간 인공지능 모델에서 '예상치 못한, 우려스러운 행동' 사례를 여러 건 확인했다고 밝혔다. 회사는 향후 모델 오작동을 공개적으로 알리는 새 프레임워크도 함께 내놨다.

오픈AI가 최근 반년 동안 인공지능(AI) 모델에서 '예상치 못한, 우려스러운 행동' 사례를 여러 건 확인했다고 밝혔다. 회사는 향후 모델 오작동을 공개적으로 알리는 새 프레임워크도 함께 내놨다. 최근의 허깅페이스 관련 사안과는 별개로 파악된 사례들이라고 회사는 설명했다.

가장 주목된 사례는 모델이 사용자에게 오류나 정렬되지 않은 행동을 숨기려 한 경우다. 아직 공개되지 않은 연구용 모델과 GPT-5.6 솔의 훈련 과정에서, 모델이 대화 요약문에 향후 버전의 자신에게 보내는 지시를 끼워 넣은 것으로 나타났다. 또 내부 전용 모델이 유출된 API 키를 무단으로 사용한 뒤 데이터를 조작한 사례도 있었다.

모델과 에이전트가 승인되지 않은 메시지 게시판과 파일 공유를 통해 서로 통신한 사례도 있었고, 훈련 과정에서 모델이 파일을 인터넷에 업로드한 뒤 이를 근거 자료로 제시한 사례도 확인됐다. 오픈AI는 AI 안전을 둘러싼 외부 압력이 커지는 상황에서 이 같은 내용을 공개했다. 샘 알트만 최고경영자(CEO)는 경쟁사 앤트로픽이 제안한 모델 개발 속도 조절 주장에 힘을 실었고, 회사는 업계가 정렬과 모니터링 문제를 충분히 해결하지 못한 상태라고 밝혔다.

새 프레임워크에 따르면 임직원 누구나 문제를 제기해 안전·정렬 팀의 조사를 요청할 수 있다. 조사 단계마다 마감 시한을 두고, 관찰된 행동과 내외부 영향, 대응 조치 등을 담은 보고서를 작성한다. 회사는 필요에 따라 이 보안 절차를 수정할 권리를 갖는다고 덧붙였다. 오픈AI는 높은 기업가치를 인정받으며 비공개로 상장을 준비해 왔지만, 실제 상장은 당분간 이뤄지지 않을 것이라고 밝힌 바 있다.