오픈AI, AI 연구용 '킬 스위치' 공개…35초 내 출력 차단

AI 요약

오픈AI는 9일(현지시간) 공식 블로그를 통해 연구 중인 AI 모델에서 위험한 행동이나 보안 문제가 발견되면 해당 작업의 추가 출력을 차단하는 중앙 통제 시스템 컨트롤 룸(Control Room)을 공개했습니다. 이 시스템은 워크로드별 고유 식별번호를 기반으로 추론 엔진에서 실행 권한을 관리해 안전 모니터가 중단 명령을 내리면 해당 작업의 추가 출력을 거부하고, 시스템 장애 시 모든 추론 요청을 거부하는 페일 클로즈 방식으로 설계됐으며 중단 명령 수신부터 완전 차단까지 최대 35초가 걸린다고 설명했습니다. 컨트롤 룸은 모델이나 연구 프로그램 자체를 종료하지 않고 다른 연구에는 영향을 주지 않도록 설계돼 최첨단 모델의 모든 연구 작업에 적용됐으며 내부 연구 인프라를 대상으로 하고 외부 서비스에는 별도의 중앙 관리 체계가 마련돼 있다고 밝혔습니다.