카카오, AI 안전성 검증 강화…인공지능안전연구소와 맞손 - 머니투데이

AI 요약

카카오는 지난 28일 인공지능안전연구소와 AI 안전성 공동 평가 및 평가 체계 구축을 위한 전략적 업무협약(MOU)을 체결했다고 29일 밝혔습니다. 양사는 카카오가 자사 AI 모델과 AI 에이전트를 제공하고 평가 수행 및 인프라를 지원하면 인공지능안전연구소가 평가 수행과 방법론 고도화를 담당하는 방식으로, 언어모델의 배포 전·후 안전성 평가를 시작으로 멀티모달 언어모델과 AI 에이전트까지 평가 범위를 확대하고 최종적으로 평가도구를 공동 개발할 계획입니다. 양사는 지난해 자체 언어모델 카나나(Kanana)-1.5-9.8B 공동 안전성 평가에서 유사한 규모의 해외 모델보다 높은 수준의 안전성을 확인했으며 카카오는 KT클라우드와의 업무협약 및 외부 전문가로 구성된 AI&기술윤리소위원회 자문단 운영 등 AI 안전성 강화를 위한 노력을 이어가고 있습니다.