와탭랩스, LLM 옵저버빌리티 출시…AI 운영비·성능 통합 분석

AI 요약

국내 옵저버빌리티 기업 와탭랩스는 9일 서울 서초구 본사에서 LLM 옵저버빌리티 미디어 데이를 열고 LLM 옵저버빌리티 신제품을 정식 출시했습니다. 해당 제품은 AI 서비스 운영 과정의 GPU 활용률, LLM 비용, 응답 성능 등을 통합 분석하고 사용자 요청부터 응답 반환까지를 트레이스 단위로 기록해 벡터 검색·LLM API 호출·에이전트 반복 실행 등에서 발생하는 병목 원인을 파악하며, 모델별·기능별 입출력 토큰 사용량과 비용 집계, 답변 품질 평가 및 환각 감지 기능을 제공합니다. 이동인 와탭랩스 대표는 AI 시장의 무게중심이 AI 실행에서 AI 운영으로 이동하고 있다며 AI 내재 제품군을 강화해 기업이 AI를 더 잘 활용하고 운영할 수 있도록 지원하겠다고 말했습니다.