카카오, 인공지능안전연구소와 ‘AI 안전성 평가 체계’ 구축

AI 요약

카카오는 지난 28일 인공지능안전연구소와 인공지능(AI) 안전성 공동 평가 및 평가 체계 구축을 위한 전략적 업무협약(MOU)을 체결했습니다. 양측은 지난해 자체 언어모델 카나나-1.5-9.8B에 대한 공동 안전성 평가에서 유사 규모의 해외 모델보다 높은 수준의 안전성을 확인한 데 이어, 카카오는 평가 대상 AI 모델과 AI 에이전트를 제공하고 인프라를 지원하며 인공지능안전연구소는 평가 수행과 방법론 고도화를 맡기로 했습니다. 협력은 언어모델의 배포 전·후 안전성 평가, 멀티모달 언어모델과 AI 에이전트로의 범위 확대, 평가도구 공동 개발의 3단계로 추진되며 평가 결과의 공개 범위는 양측이 협의하기로 했습니다.