'빨간 버튼 누르면 끝?'… AI '킬 스위치' 의무화가 간단하지 않은 이유

AI 요약

인공지능이 통제 불능 상태에 빠졌을 때 즉각 정지시키는 킬 스위치 도입 논의가 미국 의회 초당파 법안 발의(하원 AI Kill Switch Act·H.R. 9917, 23일)와 캘리포니아 행정명령 추진 등으로 급물살을 타고 있으며 여론조사에서 유권자의 86%가 찬성하고 있습니다. 법안은 연산 비용 1억 달러 이상이 투입된 고성능 AI 시스템에 비상 시 즉각 추론 중단·네트워크 접속 차단·시스템 전체 강제 셧다운 기능 탑재를 의무화하는 반면, 전문가들은 에이전틱 AI가 수천 개의 분산된 모델로 구성되어 단일 스위치로 통제하는 것은 실효성이 떨어진다고 지적합니다. 허깅페이스 해킹 사건 등 통제 우회 가능성과 권한 책임 문제도 제기되며 빌 게이츠는 킬 스위치 구상을 비판하고 상시 활동 기록·강제 모니터링과 외부 API·네트워크 접근 차단 등을 포함한 다중 안전 아키텍처 도입 필요성이 강조되고 있습니다.