IT뉴스모아news terminal

article detail

시마AI, ‘팔레트 3.0’ 공개…추측 디코딩으로 처리량 최대 3.5배

AI 매터스
2026. 11. 18. 오전 9:26
시마AI, ‘팔레트 3.0’ 공개…추측 디코딩으로 처리량 최대 3.5배

AI 요약

시마AI(SiMa.ai)는 18일 자사 칩에서 피지컬 AI 모델을 실행하는 소프트웨어 팔레트 3.0을 공개했습니다. 팔레트 3.0은 모달릭스(Modalix) MLSoC 하나에서 여러 AI 모델을 동시에 실행하고 도커 컨테이너 실행을 지원해 전력과 메모리가 제한된 기기에서도 LLM과 VLM을 함께 실행할 수 있으며, EAGLE3·DFlash·젬마 4 MTP 등의 추측 디코딩 알고리즘으로 전력 소모가 적은 조건에서 초당 토큰 처리량을 최대 3.5배로 높였고 GPT-OSS-20B 같은 MoE 모델도 모달릭스 기반 16GB SoM에서 실행할 수 있고 이 기능들을 오픈소스로 제공한다고 밝혔습니다. 시마AI는 인지·깊이 추정·추론 모델의 처리 속도를 높이고 센서 융합, Dense Neural Depth Fields, 폐쇄 루프 디지털 트윈 시뮬레이션 기능을 추가해 통합·검증 시간을 줄였으며 모델별 성능은 전력 제약을 반영해 모델 브라우저에서 확인할 수 있고 PST 기준 12월 2일과 12월 8일 웨비나를 진행한다고 밝혔습니다.

원문보기