카카오, 자율 AI 에이전트 윤리 체계 구축…‘SPIRIT·NORMA’로 전 주기 위험 관리

AI 요약

카카오는 스스로 계획하고 행동하는 자율형 인공지능(AI) 에이전트 시대에 대응해 AI 서비스 기획부터 운영까지 적용할 윤리 원칙과 실행 가이드를 마련하고, 지난 13일 열린 개발자 컨퍼런스 이프카카오26에서 새로운 AI 윤리 원칙 SPIRIT과 실행 프레임워크 NORMA, AI 윤리 이행 체크리스트를 공개했다고 15일 밝혔습니다. SPIRIT은 안전(Safety), 프라이버시(Privacy), 포용(Inclusivity), 책임(Responsibility), 이용자 주체성(Individual Autonomy), 투명성과 신뢰성(Transparency & Trustworthiness)의 6대 핵심 가치를 제시해 자율성이 높은 AI 서비스에서도 안전과 개인정보 보호, 이용자 권리, 책임성을 함께 고려하도록 설계됐습니다. NORMA는 탐색하는(Navigating), 조직적인(Organizational), 책임감 있는(Responsibility), 관리 가능한(Manageable), 실행 가능한(Actionable)의 원칙으로 윤리 원칙을 실무에 적용하고, 카카오는 서비스 기획 단계부터 위험을 식별·관리하는 체크리스트와 자율 에이전트의 위험을 통제 주도권·목표·권한·참조 자원·상호작용의 5개 영역으로 분류해 인간 감독·권한 통제·데이터 보호 등의 통제를 연결하며 해당 체크리스트를 연내 적용할 예정입니다.