값비싼 B300, 제값하려면…와탭랩스 “‘AI풀스택 관리’로 효율 극대화”

AI 요약

이동인 와탭랩스 대표는 9일 서울 서초구에서 열린 ‘LLM 옵저버빌리티 미디어 데이’에서 GPU·LLM·AI 운영 통합 전략을 발표하며 GPU 활용률이 낮아 비용 효율성이 떨어진다고 지적하고 엔비디아 최신칩 ‘블랙웰 300’ 기반 랙 구축 비용이 약 98억원이라고 소개했습니다. 와탭랩스는 지난해 선언한 ‘AI 네이티브 옵저버빌리티’ 비전 이후 GPU 모니터링을 출시하고 이번에 LLM 옵저버빌리티 기능을 정식 출시하며 GPU 모니터링·LLM 옵저버빌리티·AI 자율 운영을 잇는 풀스택 로드맵을 공개했습니다. 회사는 대화형 AI ‘와탭 AI’를 통해 자동 이상 탐지·원인 추론·조치 기능을 고도화하고 모든 LLM 호출의 토큰·비용 모니터링과 AI 환각 감지 등 답변 품질 평가를 포함해 칩부터 서버까지 전 계층을 통합 관측할 수 있다고 설명했습니다.