오픈AI, 아동 성착취물 탐지 도구 공개

테크 · 2026-11-17 · TechCrunch

오픈AI가 AI 생성 이미지까지 포함한 아동 성착취물(CSAM) 탐지 분류기와 ChatGPT 경고·계정 정지 기능을 내놨다. 개발자 가이드라인과 수사기관 지원 도구도 함께 공개됐다.

오픈AI가 아동 성착취물(CSAM) 대응을 위한 새 도구들을 공개했다. AI가 생성한 이미지까지 포함해 CSAM을 탐지하는 이미지 분류기와 ChatGPT 내 경고 화면, 개발자용 가이드라인, 수사기관 지원 도구 등이 포함됐다.

새 이미지 분류기는 이전에 확인된 적 없는 이미지에서도 학대 정황을 포착해 검토자에게 위험도 점수를 제시한다. 오픈AI는 이 분류기를 미국 실종·착취아동센터(NCMEC)와 함께 개발했고, 테크코얼리션·ROOST와 협력해 일부 기업에 API로 무료 제공한다. 파트너사 대상 초기 테스트에서 분류기는 같은 수의 학대 이미지를 찾아내면서 신고 대상 이미지는 48% 줄였고, 분류기가 표시한 이미지가 실제 학대 이미지일 확률은 두 배 높았다.

ChatGPT는 아동을 성적 대상화하는 콘텐츠를 요청하는 사용자에게 경고 화면을 띄우고 전문 지원을 안내하며 24시간 계정 이용을 정지한다. 반복 적발 시 계정이 영구 삭제될 수 있다. 오픈AI는 개발자들이 CSAM을 예방·탐지하고 신고하도록 돕는 가이드라인도 배포했으며, 수사기관에는 전용 플러그인과 조사 도구, 데이터 분석 기능과 교육 자료를 제공한다.

배경에는 규제·소송 압박이 있다. 오픈AI는 자사 기술이 특히 아동에게 해를 끼쳤다는 여러 소송에 직면해 왔고, 비영리단체 컴먼센스미디어는 10대에게 '수용 불가능한 위험'이라고 평가했다. 경쟁 챗봇 Grok이 아동을 포함한 비동의 성적 이미지 생성에 쓰인 사례도 안전 조치 강화를 요구하는 목소리를 키웠다.