Amazon ElastiCache for Valkey의 CESC로 Interactive AI 스토리텔링 플랫폼 최적화하기

AI 요약

뷰컴즈(Viewcommz)가 운영하는 타닥(Tadak)은 사용자가 다양한 세계관을 창조·공유하는 멀티버스형 Interactive AI 스토리텔링 플랫폼이며, 뷰컴즈는 사용자 경험을 극대화한 차세대 버전 '타닥 v2'의 핵심 목표를 '끊김 없는 몰입(Seamless Immersion)'으로 설정했습니다. 기존에는 생성형 AI를 이용한 실시간 이미지 생성이 높은 비용과 평균 3-5초의 생성 지연, 맥락의 파편화 등으로 몰입을 저해해 뷰컴즈는 의미적으로 유사한 요청에도 캐시된 결과를 반환하는 시맨틱 캐싱을 확장한 CESC(Context Enabled Semantic Caching)를 도입해 입력의 의미와 발생한 맥락을 함께 임베딩하는 전략을 도입했습니다. 뷰컴즈는 CESC 구현을 위해 Amazon ElastiCache for Valkey의 벡터 검색 및 시맨틱 캐싱 기능을 활용해 이미지 로딩 속도를 개선했으며, Amazon ElastiCache for Valkey는 서버리스 사용 시 Redis OSS 대비 33% 저렴하고 노드 기반 사용 시 20% 저렴하며 Valkey 8.0의 I/O Multi-thread 아키텍처로 처리량 최대 230% 향상·지연 시간 최대 70% 개선 등의 성능 이점을 제공한다고 설명했습니다.