미국 정부의 AI 모델 사전 점검에 구글·MS·xAI 합류

AI 요약

미국 정부가 AI 모델의 국가안보 위험을 사전에 점검하기 위해 미 상무부 산하 AI 표준 및 혁신 센터(CAISI)가 5일(현지시간) 구글 딥마인드, 마이크로소프트, xAI와 협약을 체결해 AI 모델을 일반 공개하기 전에 성능과 위험성을 평가하는 체계를 마련했다고 발표했습니다. 이번 협약에 따라 기업들은 최신 AI 모델을 출시하기 전에 CAISI에 제공해야 하며 정부는 이를 바탕으로 사전 배포 평가와 표적 연구를 수행하고 일부 안전장치를 완화한 상태에서 사이버보안·생물학·화학 등 국가안보 영향을 줄 수 있는 위험 요소를 집중 점검할 계획입니다. CAISI는 이미 비공개 모델을 포함해 40건 이상의 평가를 수행했고 이번 조치는 2024년 오픈AI·앤트로픽과의 협력의 연장선이며 백악관과 트럼프 행정부는 추가 규제·감독 조치와 민관 합동 워킹그룹 구성 및 행정명령 추진 방안을 검토 중입니다.