KT, 국산 AI 반도체·LLM 한 서버에…공공·금융 등 규제산업 공략

AI 요약

KT는 국산 인공지능(AI) 반도체와 자체 개발 대규모언어모델(LLM)을 결합한 기업용 소버린 AI 어플라이언스 KT NPU LLM 스테이션을 선보였다고 19일 밝혔습니다. 제품에는 리벨리온의 신경망처리장치(NPU) 아톰-맥스(ATOM-MAX)와 KT의 LLM 믿음 K 2.5 프로(Pro), 운영 응용프로그램인터페이스(API) 플랫폼이 탑재됐고 아톰-맥스는 공인시험에서 동급 GPU 대비 처리 성능과 전력 효율을 검증받았습니다. KT는 망분리와 보안 규제로 외부 생성형 AI 도입이 어려운 공공·국방·제약·제조·금융 분야를 주요 수요처로 공략하고 회의록 작성·코딩 지원 등 자체 개발 AI 에이전트와 고객 맞춤형 구축, 향후 피지컬 AI용 엣지 데이터센터 적용을 통해 저전력·저지연 AI 인프라를 구축할 계획이라고 밝혔습니다.