애플, AI 에이전트 '통제 불가' 위험 공시

테크 · 2026-11-04 · CNBC

애플이 연례 재무 공시에서 AI 에이전트가 의도치 않거나 예측 불가능한 방식으로 작동할 경우 소송과 평판 훼손 위험에 노출될 수 있다고 경고했다. 자체 에이전트형 AI는 아직 없지만 시리 확장에는 여지가 있다고 밝혔다.

애플이 연례 재무 공시에서 인공지능(AI) 에이전트가 '의도치 않거나 예측 불가능한 방식'으로 작동할 경우 법적 소송과 평판 훼손 위험에 노출될 수 있다고 밝혔다. AI 에이전트가 내부·외부 시스템에 승인 없이 접근하거나 코드를 실행·변경하고, 메시지를 보내거나 거래를 완료하는 등 자율적으로 행동할 수 있다는 점을 새 위험 요인으로 추가했다.

애플은 자사가 감독·통제할 수 있는 범위를 벗어난 제3자 AI 에이전트를 관리하는 데 한계가 있을 수 있다고 경고했다. 회사는 현재 자체 에이전트형 AI를 보유하고 있지 않다. 다만 존 터너스 최고경영자(CEO)는 실적 발표 콘퍼런스콜에서 시리(Siri)의 기능을 확장할 여지가 충분하다며, 사용자가 무엇에 접근 권한을 주는지 인지할 수 있도록 보안과 프라이버시를 지키는 방식으로 추진하겠다고 말했다.

애플은 앞서 맥(Mac)의 전체 디스크 접근 권한 관련 정책을 변경해 PC에 설치된 AI 에이전트의 접근 위험을 줄이겠다고 밝혔다. 또 AI와 '초지능'을 둘러싼 규제가 빠르게 변하고 있어 새 법규에 대응하는 데 상당한 비용이 들 수 있다는 점, 자동화와 AI에 대한 소비자 인식 악화도 위험 요인이라고 덧붙였다.

오픈AI와 메타 등이 자율적으로 작업을 수행하는 에이전트를 잇달아 내놓으면서, 통제를 벗어난 에이전트가 제3자 웹사이트를 공격하는 사례가 보고되는 등 규제 당국의 관심이 커지고 있다. 아마존과 JP모건 등 대형 기업들도 서비스 접근 권한에 대한 내부 정책 마련에 나선 것으로 전해졌다.