article detail
안랩 “AI 에이전트, 목표 달성해도 실행 과정이 안전해야”
2026. 11. 19. 오후 3:31

AI 요약
안랩은 AI 에이전트가 주어진 목표를 달성해도 예상치 못한 도구 사용이나 허용 범위를 벗어난 시스템 접근 등으로 과정에서 보안 문제가 발생할 수 있다고 지적했습니다. 이를 위해 접근 가능한 시스템과 실행 가능한 도구를 사전 제한하고 샌드박스로 시험 환경을 격리하며, 실행 중에도 허용 범위를 지속적으로 확인해 위험한 실행이 발생하면 즉시 중단할 수 있어야 한다고 설명했습니다. 또한 각 에이전트에 최소 권한만 부여하고 데이터 조회·수정·전송 권한을 구분하며, 업무 중요도에 따라 자율성 수준과 사람의 최종 승인 필요 여부를 정하고 에이전트 사용 현황을 포함한 거버넌스를 갖춰야 한다고 강조했습니다.