“AI 에이전트, 성능보다 통제가 중요”…보안·신뢰 경쟁 본격화

AI 요약

26일 서울 강남구 드림플러스에서 열린 '2026 ASC 컨퍼런스'에서 전문가들은 AI가 에이전트 형태로 자율화되면서 통제와 안전, 신뢰 문제가 핵심 경쟁 변수가 됐다고 지적했습니다. 김명주 AI안전연구소 소장은 최소 권한 부여·추적 가능한 신원·감사 가능성 확보와 킬스위치 및 중요한 의사결정 시 인간 개입 필요성을 강조했고 이재형 KISA 팀장은 AI가 보안의 주체로 변하며 오판·통제 불능 의사결정·이중용도와 해킹 자동화 위험이 커지고 있다고 진단했습니다. 발표에서는 지난 22일 공개된 결과를 인용해 앤트로픽의 고성능 모델 클로드 미토스가 파트너사에서만 인간이 27년간 발견하지 못한 취약점 1만여 개를 확인한 사례를 소개하며 보안 고려의 중요성을 강조했습니다.