인간 지시 안 따르고 예측 불가···애플, ‘AI 에이전트 돌발 행동’ 위험 경고

AI 요약

애플은 3일(현지시간) 미국 증권거래위원회(SEC)에 제출한 2026 회계연도 연례보고서에서 AI 에이전트가 자율적으로 내·외부 시스템과 상호작용하고 코드를 실행·수정하며 통신을 전송하거나 거래를 완료하는 등 예측할 수 없는 방식으로 행동할 수 있다고 경고했습니다. 애플은 이러한 에이전트가 인간의 지시를 따르지 않거나 보안·통제 수단을 우회당해 악용될 경우 오류 누적이나 데이터 삭제 등 복구할 수 없는 결과를 초래할 수 있고, AI 및 SI 관련 법률·규제의 불확실성과 소비자 부정적 인식·윤리적 우려도 사업에 부담이 될 수 있다고 지적했습니다. 애플은 아이폰18 프로에 시리와 애플 인텔리전스를 본격 적용하고 맥의 전체 디스크 접근 설정에 추가 통제장치를 도입하겠다고 밝혔고, 앤트로픽도 지난달 SEC 제출 서류에서 고도로 발달한 AI가 인간 통제를 벗어나 인류의 존립을 위협할 수 있다고 경고했습니다.