[최은수의 AI와 뉴비즈] 〈44〉국가 안보가 된 AI, 통제와 혁신의 기로에 서다

AI 요약

지난 12일 공개된 첨단 인공지능 모델 클로드 페이블 5와 미토스 5가 공개된 지 72시간 만에 미국 상무부가 국가 안보를 이유로 미국 밖의 외국인과 미국 내 체류 외국인에 대한 서비스 접근을 전면 차단하는 수출 통제 명령으로 중단되었습니다. 미토스 5는 인간 개입 없이 27년 전의 제로데이를 찾아 시스템 통제권을 획득하는 해킹 능력을 보였고, 페이블 5는 출시 24시간 만에 화이트해커에 의해 탈옥되어 분해-재조합 공격으로 화학 무기 제조법 등 정보를 재구성할 수 있는 취약점을 드러내 아마존 연구진의 긴급 보고로 강제 셧다운이 이뤄졌습니다. 이번 사건은 민간이 만든 AI 소프트웨어 모델이 정부의 직접 통제를 받은 최초의 사례로 외국인 연구자 접근 차단과 비미국 기업 업무 지연, 중국 오픈소스 모델로의 이전 우려를 낳았고, 개발 초기 레드팀 테스트 의무화와 다중 감시 시스템 구축 등 신뢰할 수 있는 AI 확보와 혁신 활성화 사이의 균형 필요성이 제기되었습니다.