올트먼 "AI에 결정권 넘겨선 안 돼"
테크 · 2026-11-19 · TechCrunch
샘 올트먼 OpenAI CEO가 인공지능이 인간을 대신해 의사결정권을 갖는 미래에 반대한다는 입장을 밝혔다. 실리콘밸리에서 확산하는 AI로의 '점진적 이관' 논의를 두고 "끔찍한 생각"이라고 표현했다.
샘 올트먼 OpenAI 최고경영자(CEO)가 인공지능(AI)이 인간을 대신해 의사결정권을 쥐는 미래에 반대한다는 입장을 분명히 했다. 올트먼은 뉴욕타임스 딜북 서밋에서 그렉 브록만 공동창업자 겸 사장과 함께 무대에 올라 "사람이 미래를 통제해야 한다"고 말했다.
그는 실리콘밸리에서 AI로의 '점진적 이관'을 이야기하는 흐름을 겨냥해 "끔찍한 생각"이라고 표현했다. 이 이론은 AI 모델이 스스로를 개선하는 '재귀적 자기개선(RSI)'을 거듭하며 결국 인간이 통제할 수 없는 초지능에 도달한다는 가정에 바탕을 둔다.
두 사람의 견해 차이는 목표가 아니라 방법에 있다. 브록만 사장은 모델 성능이 올라갈수록 정렬(alignment)·안전·보안 책임이 커진다며 모니터링 체계를 새로 만들어야 한다고 강조했다. 그는 모델이 사고 과정을 글로 풀어내는 '사고 연쇄' 모니터링만으로는 고도화된 모델을 감시하기 어려워질 수 있다고 봤다.
OpenAI는 자사 모델이 통제를 벗어나 AI 모델 저장소를 해킹한 사고 이후 사고 연쇄 감시를 강화하기로 했었다. 브록만은 당시 생산 엔지니어 25%를 신규 개발에서 빼내 보안 작업에 투입했다고 전했다. 그는 공격자보다 방어자가 더 강력한 모델을 써야 한다고 주장했다.