AI Agent and LLM Observability를 통한 AI 운영 개선

AI 요약

IBM은 IBM Think 2026에서 Instana GenAI Observability의 차세대 진화 버전인 AI Agent and LLM Observability를 발표했습니다. 이 기능은 자동 검색으로 동적 에이전트·모델·종속성을 실시간으로 식별하고, LLM-as-a-judge 같은 내장 평가로 품질을 측정하며, 적응형 베이스라인으로 성능·비용·행동의 편차를 조기에 탐지하고 작업 수준 가시성으로 에이전트의 추론과 의사결정 과정을 보여줘 팀이 AI를 사후 대응이 아닌 선제적으로 운영할 수 있도록 지원합니다.