AI 개척자들, '실존적 위험' 경고 잇따라

테크 · 2026-09-16 · CNBC

앤스로픽·오픈AI·구글 딥마인드 연구자들이 AI의 파국적 위험을 잇달아 경고했고, 샘 알트만·다리오 아모데이·데미스 하사비스·일론 머스크 등 AI 기업 수장들도 드물게 한목소리로 개발 속도 조절과 규제 감독을 촉구했다. 워싱턴에서도 AI 규제를 둘러싼 논쟁이 격화되고 있다.

인공지능(AI)의 실존적 위험을 둘러싼 경고가 잇따르고 있다. 앤스로픽과 오픈AI, 구글 딥마인드 등 주요 AI 연구소 소속 연구자들이 AI가 초래할 수 있는 파국적 위험을 경고했고, 샘 알트만·다리오 아모데이·데미스 하사비스·일론 머스크 등 AI 기업 수장들도 드물게 한목소리로 개발 속도 조절과 규제 감독을 촉구했다. 워싱턴에서도 규제 논쟁이 격화되면서 미국 의회 일부 의원들은 AI 개발을 견제하는 법안을 추진했고, 도널드 트럼프 대통령은 규제 확대 움직임에 반대 입장을 드러냈다.

딥러닝의 핵심 개척자로 꼽히는 요슈아 벤지오는 최전선 AI 연구소 과학자들이 가장 앞선 모델에 대한 독특한 통찰을 갖고 있다고 강조했다. 이들은 모델이 대중에 공개되기 수개월 전부터 관련 위험을 본다는 것이다. 그는 현재 AI 시스템이 이미 인류 이익에 반해 악용될 수 있는 해킹 능력과 설득력을 갖췄으며, 장기적으로 전략을 세우는 능력이 계속 발전하면 위험은 훨씬 커질 것이라고 경고했다. 이어 AI의 행동과 사고 과정, 내부 네트워크 활동을 더 잘 감시하기 위한 연구를 계속해야 한다고 덧붙였다.

신경망·딥러닝의 선구자인 제프리 힌턴 토론토대 명예교수는 10년 안에 AI가 인류를 멸종시킬 확률이 10%를 넘는다고 보느냐는 질문에 10%가 "불합리하지 않다"고 답했다. 이런 추정이 쉽지 않은 이유는 전례가 없기 때문이라며, 누구도 합리적 추정치를 제시할 방법을 모른다고 말했다. 그는 AI가 사이버 공격이나 생물학적 바이러스 설계 등 여러 경로로 인류를 위협할 수 있다며, 위험이 통제 불능이 되기 전에 이를 다룰 미래와 그렇지 못할 미래 두 가지가 있다고 덧붙였다.

2017년 '어텐션 이즈 올 유 니드' 논문 공동저자인 에이단 고메즈 코히어 최고경영자(CEO)는 AI 모델이 지금까지 나온 가장 강력한 사이버 무기라며 대규모로 취약점을 찾아 공격하는 데 탁월하다고 지적했다. 안전을 좌우하는 것은 배포 환경의 보안이라며, 정책입안자들은 시스템마다 위험이 다르다는 점을 인식해야 한다고 강조했다.