노타, AWS 'AI 전용 칩' 기반 AI 모델 성능 극대화 지원

AI 요약

노타는 AWS 공인 파트너 자격으로 트레이니움·인퍼런시아 등 AWS AI 칩 환경에서 AI 최적화 전문인력이 부족한 기업 고객을 대상으로 모델 경량화·튜닝 서비스를 제공해 비용 효율화와 추론 성능 개선을 지원합니다. 넷츠프레소 기반의 서비스는 기술검증(PoC) 및 진단, 모델 포팅·경량화, 성능 튜닝 단계로 구성돼 AI 모델 크기를 최대 90% 이상 축소하면서도 정확도를 유지하는 기술을 제공하며, 320억개 파라미터 모델을 68% 줄이고 정확도 손실을 1% 미만으로 유지한 사례가 있습니다. 이를 통해 고객은 AWS AI 칩이 제공하는 우수한 가격 대비 성능과 에너지 효율을 자사 워크로드에서 활용할 수 있게 됩니다.