앤트로픽, '10억달러 피해' AI 안전법 로비

테크 · 2026-10-18 · Tom's Hardware

앤트로픽이 정부가 AI 모델 출시를 차단할 수 있는 요건을 '10억달러 피해 또는 50명 이상 사상 위험'으로 못박은 AI 안전법 통과를 위해 로비 활동을 벌이고 있다. 상무부에 등록된 독립 제3자가 연구소와 모델을 정기 평가하고, 위험 징후가 포착되면 72시간 내 보고해 연방법원이 출시 중단 여부를 판단하는 구조다.

앤트로픽이 정부가 AI 모델의 출시를 원천 차단할 수 있는 요건을 명시한 AI 안전법 제정을 조용히 추진하고 있다. 이 법안은 해당 모델이 10억달러 규모의 피해를 낼 위험이 있거나 50명 이상을 사망·부상시킬 위험이 있을 때만 정부의 출시 차단 권한이 발동되도록 규정한다.

평가는 상무부에 등록된 독립 제3기관이 맡아 연구소와 그 AI 모델을 정기적으로 심사한다. 연구소가 평가 비용을 지급할 수는 있지만, 이 지급이 평가의 독립성을 훼손하지 않는 경우로 한정된다. 법안이 규정한 위험은 생화학무기의 제조·유포, AI를 활용한 사이버 공격, 그리고 연구소가 자사 모델이나 에이전트에 대한 통제력을 상실하는 상황이다.

이런 사건이 임박할 가능성이 확인되면 평가기관은 72시간 내 상무부에 보고해야 하고, 상무부는 증거를 워싱턴DC 연방지방법원에 제출해 모델 출시 중단 여부를 판사가 결정하도록 해야 한다. 다만 모델 출시 중단을 명령할 수 있는 권한은 상무부에만 있으며, 다른 부처나 기관, 관료는 같은 조치를 요구할 수 없다.

앤트로픽 대변인은 이 법안이 회사가 6월부터 연방 및 주 의원들과 논의해온 '고급 AI 프레임워크'의 제안을 담고 있다며, 의회가 다뤄야 할 합리적 정책이라고 밝혔다. 최근 들어 AI 안전 논의가 확산하는 가운데 의회는 최강 성능 모델에 '킬 스위치'를 의무화하는 별도 법안을 준비 중이고, 버니 샌더스 상원의원은 초지능 AI 개발자에게 최대 20년 징역을 물리는 방안까지 제안한 상태다.