카카오, 인공지능안전연구소와 맞손…AI 모델·에이전트 안전성 공동평가

AI 요약

카카오는 인공지능안전연구소와 28일 AI 안전성 공동 평가 및 평가체계 구축을 위한 업무협약(MOU)을 체결했다고 29일 밝혔습니다. 양사는 언어모델에서 시작해 멀티모달 모델과 AI 에이전트까지 평가 범위를 확대하고 마지막 단계에서는 평가도구를 공동 개발하는 3단계 협력을 추진하며, 카카오는 평가 대상 모델과 인프라를 제공하고 인공지능안전연구소는 평가 수행과 방법론 고도화를 담당해 평가 결과를 공동 검토하고 공개 범위를 협의하기로 했습니다. 카카오는 지난해 자체 언어모델 'Kanana-1.5-9.8B'에 대한 공동 안전성 평가에서 유사 규모 해외 모델보다 높은 수준의 안전성을 확인했으며 kt cloud와의 협약과 외부 전문가로 구성된 'AI&기술윤리소위원회' 자문단을 운영하는 등 외부 협력을 확대하고 있습니다.