비드래프트, ‘AI밀키트’ 오픈소스 LLM 공개…“누구나 재현 가능한 모델 구조 제시”

AI 요약

한국 AI 스타트업 비드래프트는 독자 개발한 오픈소스 파운데이션 모델 Aether-7B-5Attn을 글로벌 AI 플랫폼 허깅페이스에 7월20일 공개했으며 아파치 2.0 라이선스로 모델 가중치뿐 아니라 학습 데이터 레시피, 전체 학습 코드, 하이퍼파라미터, 학습 로그, 중간 체크포인트, 평가 코드까지 완전 공개했습니다. 이 모델은 총 65.9억 파라미터 규모의 전문가 혼합(MoE) 구조로 토큰당 약 29.8억 파라미터만 활성화해 추론 효율을 높였고, 풀 어텐션·디퍼렌셜 어텐션·슬라이딩 윈도·NSA 계열 희소 어텐션·하이브리드 방식 등 5종의 이종 어텐션을 결합했으며 엔비디아 B200 GPU 16장으로 약 1442억 토큰 규모로 학습했고 데이터 구성은 수학 37.8%, 한국어 21.6%, 영어 21.6% 등을 포함합니다. 비드래프트는 제조 공정 전체가 공개된 이번 공개가 소버린 AI 관점에서 외부 빅테크 의존도를 줄이고 자국 언어·산업·보안 환경에 맞는 AI를 독립적으로 재현·구축할 수 있는 기반이 된다고 설명했으며 베이스 모델·인스트럭트 모델·라이브 데모를 허깅페ース에 공개했고 누적 다운로드가 100만건�� 돌파했다고 밝혔습니다.