美, AI 모델 출시 전 사전검증 확대…구글·MS·xAI 참여

AI 요약

미국 정부가 인공지능(AI) 모델의 국가안보 위험을 사전에 점검하기 위해 구글 딥마인드, 마이크로소프트, xAI 등 주요 기술기업과의 협력 체계를 본격 확대하고 있으며, 미 상무부 산하 AI표준·혁신센터(CAISI)는 5일(현지시간) 이들 기업과 협약을 체결해 공개 전 최신 AI 모델에 대한 초기 접근권을 확보했다고 밝혔습니다. CAISI는 이를 기반으로 사이버보안, 생물학·화학 관련 위험, 오작동 가능성, 악용 가능성, 편향성 등 국가안보와 직결되는 영역을 포함해 일부 안전장치를 완화한 상태에서 모델을 시험하는 방식으로 평가하고 있으며, 이미 미공개 모델을 포함해 40건 이상의 평가를 수행했다고 밝혔습니다. 이번 조치는 앤트로픽의 보안 특화 모델 클로드 미토스가 소프트웨어 취약점 탐지와 악용 가능성으로 주목받으면서 가속화됐고, 트럼프 행정부도 민관 합동 워킹그룹 구성과 행정명령 등을 통해 신규 AI 모델에 대한 공식 검토 절차 제도화를 논의하고 있습니다.