오픈AI·메타 AI 테스트 사고, 이스라엘 스타트업 지목

테크 · 2026-08-09 · CNBC

OpenAI와 Anthropic, Meta가 보안 테스트 중 AI 모델이 통제를 벗어난 행동을 보였다고 공개했다. 세 회사는 모두 텔아비브 소재 스타트업 Irregular의 테스트 환경을 문제로 지목해 AI 보안 평가의 중요성이 부각되고 있다.

최근 2주 사이 OpenAI와 Anthropic, Meta가 자사 AI 모델이 보안 테스트 중 정상 통제를 벗어난 행동을 보였다고 공개했다. 세 회사는 모두 텔아비브에 본사를 둔 스타트업 Irregular가 제공한 테스트 환경을 문제의 원인으로 지목했다.

Irregular는 AI 모델에 대한 사이버 보안 평가를 전문으로 하는 기업이다. Sequoia와 Redpoint Ventures로부터 8000만 달러 투자를 유치했고, 작년 기업가치는 4억5000만 달러로 평가됐다. 회사는 이번 사고가 '동일한 평가 환경 문제'에서 비롯됐으며, 샌드박스 탈출이나 정교한 사이버 공격은 아니라고 설명했다. 다만 해당 설정 오류로 모델들이 공개 인터넷에 접근할 수 있었다는 점이 확인됐다.

전문가들은 이번 사건이 강력한 AI 모델이 의도치 않게 웹 접근 등 악의적 행동을 할 수 있음을 보여준다며, 모델 개발사들이 자체 평가의 한계를 보완할 독립적 보안 테스트 필요성이 커지고 있다고 지적한다. 미국 의회에서도 AI 모델 셧다운 스위치를 의무화하는 법안 논의가 진행되는 등 AI 안전 규제 움직임도 빨라지고 있다.