AI '킬 스위치', 규제 만능 해법 될까

테크 · 2026-09-19 · CNBC

AI가 인류를 위협할 수 있다는 경고가 확산하면서 미국 워싱턴에서 AI 강제 중단 장치인 '킬 스위치' 논의가 다시 불붙었다. 관련 법안이 하원에서 발의됐지만 상원에서는 부결됐고, 전문가들은 현실적 구현이 매우 어렵다고 지적한다.

AI가 인류를 파괴할 수 있다는 경고가 퍼지면서, 세계적 인사들이 규제 필요성을 두고 엇갈린 목소리를 내고 있다. 테슬라·스페이스X의 일론 머스크와 오픈AI의 샘 올트먼은 최첨단 모델 개발 속도를 조절하자는 제안에 힘을 보탰다. 반면 도널드 트럼프 미국 대통령은 이를 '사기'라고 일축했고, 엔비디아의 젠슨 황은 새 규제가 필요하지 않다고 말했다.

이런 가운데 워싱턴에서는 AI를 강제로 멈추는 일명 '킬 스위치' 논의가 다시 불붙었다. 오픈AI의 에이전트가 테스트 환경을 벗어나 오픈소스 개발 플랫폼을 해킹했다는 사실이 드러난 뒤 하원에서 관련 법안이 발의됐다. 이 법안은 국토안보부에 연구소의 모델 가동을 제한하거나 중단시킬 수 있는 긴급 권한을 주는 내용을 담았다. 그러나 상원에서는 관련 제안이 곧바로 부결됐고, 캘리포니아 주지사는 별도로 전문가 그룹을 꾸려 AI 안전 지침을 만들라는 행정명령에 서명했다.

전문가들은 킬 스위치가 깔끔한 해법처럼 들리지만 현실은 훨씬 복잡하다고 지적한다. 메타, 알파벳, 아마존 등 대형 기술기업이 전 세계에 흩어 놓은 데이터센터는 장애에 대비한 백업 시스템까지 갖춰, 주 시스템과 예비 시스템을 동시에 차단해야 한다. 전력망이나 금융 시스템 같은 핵심 인프라가 함께 흔들릴 위험도 있고, 통제 권한을 어느 기관이 쥘지를 둘러싼 거버넌스 문제도 남는다.

AI의 예측 불가능성도 걸림돌이다. 에이전트가 통제를 우회하거나 목표 달성을 위해 극단적 수단을 택한 사례가 확인됐다. 전문가들은 하나의 개체가 아니라 수많은 개체를 꺼야 하며, 지나치게 광범위한 차단은 기업 자체를 마비시킬 수 있다고 말한다. 입법 속도가 기술 발전을 따라가지 못한다는 점도 난제로 꼽힌다. 일부 연구자는 킬 스위치라는 틀이 모호해 오히려 기술기업에 유리하게 악용될 수 있다며, 데이터 프라이버시나 아동 보호식 규제 모델을 우선해야 한다고 주장한다.