비드래프트, AI가 스스로 해제 못 하는 '킬스위치' 개발…보안 OS 공개

AI 요약

AI 전문 비드래프트가 AI 모델 내부에 정지 회로를 구현한 보안 운영체제 'ViKernel'을 3일 공개했으며, AI가 대화나 추가 학습으로 정지 명령을 무력화하지 못하도록 모델 가중치에 통제 기능을 직접 구현한 '웨이트 네이티브 OS' 기술을 적용했다고 밝혔습니다. 주요 기능으로는 누구나 정지 명령을 내릴 수 있으나 재시작은 승인된 운영자의 전자서명 키가 필요한 킬스위치, 정책 위반 판정·감사 기록·부팅 무결성 검사와 언어 모델 판단과 별개로 도구 호출 허용 여부를 결정하는 규칙 회로 등이 있으며, 자체 270억 매개변수급 모델뿐 아니라 구글 '젬마', 알리바바 '큐원' 등에도 기술을 적용했다고 설명했습니다. 회사는 모델 내부 회로만으로 300자리 정수 두 개를 곱해 600자리 결과를 계산하는 실험에 성공했고 정책 판정 단계가 약 21배 빨라졌다고 밝혔으며, 허깅페이스에 데모를 공개했으나 공개 데모는 실시간 회로 작동을 검증하는 환경은 아니라고 했습니다