"AI 안전성 평가 체계 구축"…카카오, 인공지능연구소와 MOU

AI 요약

카카오는 29일 인공지능안전연구소와 인공지능 안전성 공동 평가 및 평가 체계 구축을 위한 전략적 업무협약(MOU)을 맺고 신뢰할 수 있는 AI 위험 식별 체계를 마련하는 등 AI 안전성 확보한다고 밝혔습니다. 카카오는 AI 모델과 AI 에이전트를 제공하고 평가 수행 및 평가 도구 개발에 필요한 인프라를 지원하며 인공지능안전연구소는 평가 수행과 방법론 고도화를 맡고, 양사는 평가 결과를 공동 검토하고 공개 범위를 협의하며 안전성 평가도구 개발에도 협력합니다. 협력은 총 3단계로 진행되며 언어모델을 대상으로 배포 전·후 안전성 평가를 수행한 뒤 멀티모달 언어모델과 AI 에이전트로 평가 범위를 확대할 계획입니다.