네이버, '프로덕트 네이티브 LLM'으로 AI탭 고도화…속도 높이고 환각 줄였다

AI 요약

네이버가 2일 서울 강남구 D2SF 강남에서 열린 행사에서 대화형 AI 검색 서비스 'AI탭'의 핵심 기술로 서비스 환경에 최적화한 '프로덕트 네이티브 거대언어모델(LLM)'과 서비스 안정화를 위한 하네스 엔지니어링을 공개했습니다. 차세대 모델은 자체 개발한 '하이퍼클로바X' 기반으로 경량화되고 전문가 혼합(MoE) 맞춤형 구조를 적용해 응답 속도를 약 2배 높였으며 1만6000토큰까지 응답 시간 증가를 최소화하고 명료성 강화학습으로 환각률을 기존 모델보다 최대 30%포인트 줄였다고 설명했습니다. 또한 역할별 소형언어모델(SLM) 분업 구조로 일부 구성 요소의 장비 운영 비용을 기존의 최고 3분의 1 수준으로 줄이고 응답 속도를 2배 이상 개선했으며 스마트렌즈 중심의 멀티모달 기능과 함께 이들 기술을 올해 하반기 AI탭 고도화에 순차 적용해 이달 AI 브리핑·스마트렌즈 연동, 다음 달 네이버 부동산 연결, 연내 건강 에이전트 기능 구현을 추진한다고 밝혔습니다