카카오, 인공지능안전연구소와 AI 안전성 평가 체계 구축

AI 요약

카카오는 인공지능안전연구소와 AI 모델과 에이전트의 안전성을 공동 평가하고 평가 체계를 구축하기 위한 업무협약을 지난 28일 체결했다고 29일 밝혔습니다. 양사는 AI 모델과 에이전트를 대상으로 안전성 평가를 진행하고 평가 방법론과 도구 개발에 협력하며, 카카오는 평가 대상과 평가 수행 및 도구 개발에 필요한 인프라를 제공하고 인공지능안전연구소는 평가와 방법론 고도화를 담당하기로 했습니다. 협력은 언어모델의 배포 전후 안전성 평가를 시작으로 멀티모달 언어모델과 AI 에이전트까지 범위를 확대하는 3단계로 추진되며, 양사는 평가 결과를 공동 검토하고 안전성 검증용 평가도구도 공동 개발할 계획입니다.