카카오, AI 모델·에이전트 안전성 사전 검증한다…AI안전연과 MOU

AI 요약

카카오는 인공지능안전연구소와 인공지능(AI) 모델과 에이전트를 대상으로 객관적이고 체계적인 안전성 평가 기반을 구축하기 위한 전략적 업무협약(MOU)을 체결했다고 29일 밝혔습니다. 협약에 따라 카카오는 자사 AI 모델과 AI 에이전트를 제공하고 평가 수행과 평가 도구 개발에 필요한 인프라를 지원하며, 인공지능안전연구소는 평가 수행과 방법론 고도화를 담당하고 양사는 평가 결과를 공동 검토해 평가도구를 공동 개발하기로 했습니다. 협력은 언어모델의 배포 전·후 안전성 평가를 시작으로 멀티모달 언어모델과 AI 에이전트까지 평가 범위를 확대하고 최종적으로 평가도구를 공동 개발하는 3단계로 추진되며, 지난해에는 양사가 자체 언어모델 '카나나-1.5-9.8B'에 대한 공동 안전성 평가를 진행한 바 있습니다.