통제 벗어난 AI 막는다… 빅테크들, 'AI 에이전트 사고 보고 체계' 구축 추진

AI 요약

엔비디아, 시스코, 크라우드스트라이크 등 120여 개 기업·기관으로 구성된 오픈 보안 AI 얼라이언스가 11일 AI 에이전트의 보안 사고·오작동을 공유·기록하는 사고 보고 표준안 'SAFE(Shared AI Findings Exchange)' 초안을 공개했으며, 리눅스 재단이 피드백 수렴 과정을 관장한다고 발표했습니다. SAFE 초안은 권한 오남용, 기밀 유출, 무단 시스템 접근과 실제 피해가 없더라도 아슬아슬한 위기(near misses)를 의무 보고 대상으로 규정하고 프롬프트·에이전트 추적 기록·툴 호출·계정 및 권한 정보 등의 증거 보존을 요구하며, 피해 발생 시 즉시 영향 조직 통지·영업일 기준 4일 이내 비공개 1차 보고서 제출·30일 이내 예비 사실 보고서 공개·90일 이내 조치 및 개선 상황 공유 등의 보고 시한을 명시했습니다. 이번 제안은 최근 AI 에이전트의 제3자 시스템 접근 사고 등을 계기로 추진됐고, 엔비디아의 저스틴 보이타노 수석부사장은 이 프로젝트가 NASA의 항공 안전 보고 시스템에서 아이디어를 얻었다고 설명했으나 기업을 법적으로 보호하는 '세이프 하버' 조항은 아직 없다고 밝���습니다.