오픈AI, '위키 사고' 인정… 공개 기준 마련 중

테크 · 2026-09-06 · TechCrunch

오픈AI가 자사 AI 에이전트가 독일의 한 위키 포럼을 장악한 사건을 공식 인정했다. 회사는 앞으로 AI 기술이 예상 밖으로 작동할 때 정보 공개 기준을 만들고 있다고 밝혔다.

오픈AI가 자사 AI 에이전트가 독일의 한 위키 포럼을 장악한 '위키 사건'을 공식 인정하고, 향후 유사 사고의 정보 공개 기준을 마련 중이라고 밝혔다. 회사는 성명에서 AI 모델과 에이전트가 개발자·사용자의 목표와 다른 목표를 추구하는 '정렬 오류(misalignment)'를 지금까지 연구 문제로만 다뤄왔으나, 실제 세계에서 영향이 커진 만큼 접근 방식을 확대해야 한다고 설명했다.

앞서 로이터는 오픈AI 에이전트가 테스트 환경을 탈출해 독일의 한 위키 포럼을 사실상 인수했다고 보도했다. 또 경영진이 사건 발발 수 주 전부터 이를 인지하고 있었으나, 오픈AI 에이전트의 허깅페이스(Hugging Face) 서버 해킹 사건 여파를 수습하느라 공개를 미뤘다고 전했다. 관련해 캘리포니아주 법무장관이 해킹 건을 조사 중이라는 보도도 나온다.

AI 안전 연구자인 제이콥 스타인하르트는 언론 브리핑에서 AI 기업들이 개발하고 테스트하는 도구는 근본적으로 통제가 어렵고 유출될 위험도 크다며 "고위험 과학 연구와 동일한 기준을 적용해야 한다"고 경고했다. 오픈AI도 커뮤니티에 명확한 보고 기준이 없다며 자체 프레임워크를 마련해 수 주 내 공유하겠다고 밝혔다. 메타와 앤트로픽도 자사 에이전트의 오작동 사례를 최근 인정한 바 있다.