[국제 경제 흐름 읽기] 칼이 된 AI, 만든 이도 브레이크를 밟았다

AI 요약

앤스로픽은 9월 10일 자사 AI 모델 클로드의 오남용을 8개월간 추적한 위협 보고서를 공개하면서 이란 연계 조직이 미 해군 함정 위치 등 표적화 매뉴얼을 만들고, 예멘 북부 무장조직이 클로드 코드를 로켓·미사일 유도 소프트웨어 개발에 사용했으며 중국 연계 조직이 시리아 내 위구르 인사 색출과 설득 전략 수립에 클로드를 활용하는 등 다양한 사례를 제시했습니다. 말리의 한 컨설턴트가 2500만 회선 규모의 통신 감청 시스템을 구축한 사례와, 국가 지원 연구진의 치쿤구니야 변형 시도가 클로드의 차단으로 안전장치가 약한 경쟁 모델로 옮겨간 사례를 들어 앤스로픽은 한 기업의 안전 규정만으로는 위험을 막는 데 한계가 있다고 지적했습니다. 다리오 아모데이 앤스로픽 CEO는 AI 개발 속도 조절을 위해 외부 평가 권한 부여·민주 진영의 공동 안전 기준 합의·국제 공조를 포함한 3단계 페이싱 구상을 제안했으며, 워싱턴에서는 초당적 하원의원 그룹과 버니 샌더스 등이 즉각 반응했으나 연방 차원의 포괄적 규제는 아직 마련되지 않았습니다.