‘AI 만난 아기상어’ 말조심 교육…셀렉트스타, 1만개 질문으로 AI 안전성 점검

AI 요약

전 세계 어린이에게 익숙한 아기상어가 관람객과 직접 대화하는 AI 캐릭터로 변신해 셀렉트스타와 더핑크퐁컴퍼니가 지난 10일 서울 동대문디자인플라자(DDP)에서 열린 글로벌 스타트업 축제 트라이 에브리띵2026에서 해당 프로젝트와 전시 아기상어 비밀 초대장: 비커밍 샤크 개발 과정을 공개했습니다. 셀렉트스타는 다투모 플랫폼(Datumo Platform)을 활용해 한국어·영어·일본어·중국어 등 4개 언어로 1만개 안전성 평가 시나리오를 구축하고 실제 관람객 연령과 발화 성향을 반영한 AI 사용자로 다차례 대화 테스트를 진행했으며, 공격자 관점의 취약점 점검인 레드티밍도 수행해 대화 안전성과 세계관 일관성 등을 검증했습니다. 셀렉트스타는 콘텐츠 분야 외에 정부 AI 사업에서도 데이터 구축과 신뢰성 평가를 확대하고 있으며 SK텔레콤 컨소시엄으로 과학기술정보통신부 독자 AI 파운데이션 모델 프로젝트 2차 평가를 통과했고 모두의 AI 사업에서도 데이터 구축과 품질 검증을 담당하고 있습니다.