와탭랩스, LLM 옵저버빌리티 출시…AI 운영비·성능 통합 분석

AI 요약

국내 옵저버빌리티 기업 와탭랩스가 9일 서울 서초구 본사에서 열린 'LLM 옵저버빌리티 미디어 데이'에서 GPU 활용률과 LLM 비용, 응답 성능 등을 통합 분석하는 신제품 LLM 옵저버빌리티를 공개하고 AI 시대 핵심 전략으로 GPU 모니터링, LLM 옵저버빌리티, AI 기반 자율 운영을 제시했습니다. 이 제품은 사용자 요청부터 응답 반환까지를 트레이스 단위로 기록해 벡터 검색·LLM API 호출·에이전트 반복 실행 등에서 병목 원인을 파악하고 모델별·기능별 입출력 토큰 사용량과 비용을 집계하며 답변 품질 평가와 환각 감지 기능을 제공합니다. 이동인 와탭랩스 대표는 AI 시장의 무게중심이 실행에서 운영으로 이동하고 있다며 AI 내재 제품군을 강화해 기업의 AI 운영을 지원하겠다고 밝혔습니다.