카카오, 인공지능안전연구소와 AI 안전성 평가 체계 구축 모색

AI 요약

28일 경기 성남시 인공지능안전연구소에서 카카오와 인공지능안전연구소가 AI 안전성 공동 평가 및 평가 체계 구축을 위한 전략적 업무협약(MOU)을 체결했습니다. 협약에 따라 카카오는 자사 AI 모델과 에이전트를 제공하고 평가 수행 및 평가 도구 개발에 필요한 인프라를 지원하며, 인공지능안전연구소는 평가 수행과 방법론 고도화를 담당해 단계적으로 언어모델의 배포 전·후 안전성 평가, 멀티모달 언어모델 및 AI 에이전트로 평가 범위 확대, 평가도구 공동 개발을 추진합니다. 지난해 양측은 자체 언어모델 카나나-1.5-9.8B에 대한 공동 안전성 평가에서 유사 규모의 해외 모델과 비교해 높은 수준의 안전성을 확인했고, 카카오는 KT 클라우드와의 업무협약 및 외부 전문가 자문단 운영 등 AI 안전성 강화를 위한 노력을 이어가고 있습니다.