[Tech & Now] 노타, 이기종 컴퓨팅 기반 LLM 최적화 기술 구현 등

AI 요약

노타는 인텔 루나 레이크 기반 AI PC에서 GPU와 NPU를 조합한 분리형 추론을 적용해 입력 처리는 GPU, 답변 생성은 NPU에서 실행하도록 구성해 단일 GPU 대비 토큰당 에너지 소비를 약 32% 줄이고 생성 처리량을 약 12% 높였으며 단일 NPU 대비 첫 응답 지연시간을 약 89% 단축했습니다. 라온시큐어는 KDB생명보험과 양자내성암호(PQC) 솔루션 공급 계약을 체결했으며 현재 10여 곳 이상의 주요 은행·증권사·카드사·보험사와 신규 계약을 앞두고 있고 공공기관 도입 논의도 병행하고 있으며, 공급 솔루션 '키샵크립토'는 하이브리드 PQC 방식과 KpqC·NIST 표준 알고리즘을 제공하고 KCMVP 적합성 검증 및 FIPS 140-2 인증을 받았습니다. 스카이인텔리전스는 서울대 AI연구원과 로봇 비전 및 파지 기술 고도화를 위한 MOU를 체결하고 엔비디아 옴니버스 기반 디지털 트윈과 합성데이터·고정밀 3차원 CAD 모델 등을 제공해 공동연구, R&D 과제 추진, 인력 교류 및 서버 자원 협력을 진행하기로 했습니다.