애플 “AI 에이전트, 지시 어기고 데이터 지울 수도”

AI 요약

애플은 3일(현지시각) 미국 증권거래위원회(SEC)에 제출한 2026 회계연도 연례보고서에서 AI 에이전트의 통제 이탈 가능성을 주요 사업 위험으로 명시하며 에이전트가 사람의 지시를 따르지 않거나 예상 밖 행동을 할 수 있고 외부 기업의 에이전트가 시스템에 접속해 코드를 바꾸거나 메시지를 보내고 거래를 처리하는 과정에서 보안 장치를 우회하거나 공격자에게 악용될 수 있다고 밝혔습니다. 애플은 여러 단계의 작업을 연속 수행하면 오류가 쌓여 데이터 삭제처럼 되돌리기 어려운 피해로 이어질 수 있고 AI 관련 규제의 불확실성, 소비자 거부감, 윤리적 논란도 사업 부담으로 지적했습니다. 이 같은 위험은 시리의 앱 연동 확대와 맞물리며 애플은 개발자가 앱의 기능과 데이터를 AI에 연결하는 앱 인텐트 기술로 시리가 화면 내용과 개인적 맥락을 파악해 앱에서 작업을 수행하도록 하는 가운데 지난달 맥 데이터 접근 제한을 강화했고 존 터너스 최고경영자는 접근 권한을 명확히 알고 보안과 개인정보 보호를 전제로 에이전트 기능을 구현해야 한다고 강조했습니다.