프런티어 AI 쏟아지는데…H200 16장으로 버티는 韓 안전성 평가

AI 요약

AI안전연구소는 국내에 도입되는 AI 모델의 안전성 평가에 엔비디아 그래픽처리장치 H200 16장을 사용해 1개 모델당 7~10일이 소요되고 벤치마크 토큰 비용이 5000만~6000만원에 달해 최근 평가 대상이 지난 3월 6개에서 지난달 11개로 늘어나는 등 매월 10개 이상 쏟아지는 속도를 따라가지 못하고 있습니다. 인프라 부족으로 보안·안전에 민감한 모델을 우선 평가하고 있으며 안전장치를 제거한 중국 즈푸AI의 프런티어급 모델 GLM 5.3 변형과 오픈AI의 프런티어 모델 아스트라 평가에 착수해 악용 가능성과 위험한 요청에 대한 응답 수준을 확인하고 있습니다. 전문가들은 H200 16장만으로는 종합적 안전성 평가에 한계가 있어 GPU 외에도 전력·공간·평가 프레임워크와 멀티모델 평가가 필요하다고 지적하는 가운데 지난 15일 앤트로픽 고위 임원과의 회동에서 다리오 아모데이 CEO는 개발 속도를 늦춰야 한다고 주장한 반면 도널드 트럼프 대통령은 속도 조절에 반대했습니다.