포스텍, 복소값 신경망 양자화 기반 초경량 AI 프레임워크 제시…AI 연산량·저장공간 각각 100배·500배 낮춘다

AI 요약

포스텍 노준석 전자전기공학과 교수 연구팀이 중국 칭화대 선전 국제대학원, 하얼빈공대, 홍콩시티대 연구팀과 공동으로 복소값 신경망 양자화 기반 초경량 AI 프레임워크를 개발해 고성능 AI를 스마트폰에서도 실행할 수 있는 수준으로 만들었으며 연구성과는 네이처 커뮤니케이션즈(Nature Communications)에 게재됐다고 7일 밝혔습니다. 연구팀은 실수부와 허수부를 동시에 고려하는 공동 양자화 기법과 중요도에 따라 정밀도를 달리하는 적응형 혼합 정밀도 학습을 도입해 복소값 신경망의 위상 정보를 보존하면서 계산량을 크게 줄였습니다. 홀로그램 실험에서 연산량은 99.1%, 메모리 사용량은 99.8% 줄었고 PSNR은 약 4dB 향상됐으며 음성·무선 신호 분류와 레이더 표적 인식 등에서는 연산량을 약 85% 이상 줄이면서 정확도를 유지했고 스마트폰에서는 최대 389배 빠른 속도를 기록했습니다.