스스로 행동하는 AI 위험 차단…미·영 5개국 ‘에이전틱 AI’ 가이드라인 확립

AI 요약

미국 사이버보안 및 인프라 보안국(CISA)은 국가안보국(NSA), 영국 국립사이버보안센터(NCSC) 등 국제 파트너들과 함께 1일(현지시간) 에이전틱 인공지능(AI) 서비스의 신중한 도입(Careful Adoption of Agentic AI Services)이라는 공동 가이드라인을 공개해 인간의 검토를 의무화했습니다. 가이드라인은 에이전틱 AI가 대형언어모델을 기반으로 스스로 작업을 계획·실행하며 광범위한 시스템 접근이 무단 접근·데이터 유출 등 사이버 위협으로 이어질 수 있다고 경고하면서 최소 권한 원칙, 데이터 샌드박싱, 실시간 활동 모니터링 및 로깅, 고위험 작업에 대한 인간의 검토 유지 등을 핵심 원칙으로 제시하고 외부 웹페이지나 이메일을 통한 간접 프롬프트 주입 공격 대비를 당부했습니다. 파이브 아이즈 국가는 보안 설계를 초기 단계부터 적용해야 한다고 강조했고 닉 안데르센 CISA 국장 대행은 개발자와 공급업체의 가이드라인 준수를 촉구했으며 이번 지침은 AI가 조력자에서 대리인으로 진화함에 따라 글로벌 표준 마련과 에이전트 시장의 기술 표준 전쟁으로 이어질 전망임을 반영합니다.