“AI로 인류 멸망” 경고에…앤트로픽 “치명적 '모기 바이러스' 무기화 시도…AI 악용 차단”

AI 요약

앤트로픽은 10일 AP 통신이 인용한 자사 세 번째 AI 오용 보고서에서 사이버 공격, 여론 조작, 생물학 무기 연구 등 악의적 활용 시도를 차단했다고 발표했습니다. 보고서는 지난해 12월부터 올해 8월까지 감지된 사례들 가운데 치쿤구니야 바이러스의 기능 획득 연구 관련 자금 지원 신청서 작성 요청 등 생물무기 개발로 이어질 수 있는 시도와 러시아·이란·터키·페르시아만 지역·남아시아·아프리카·유럽 등 9개국 연계의 SNS 여론 조작 작전, 산업 스파이형 데이터 추출 공작을 적발해 차단했다고 밝혔습니다. 앤트로픽은 최신 모델인 클로드 페이블 5 등에 생물학 연구 쿼리 접근을 엄격히 제한하는 안전장치를 추가하고 악성 코드와 프롬프트 일부를 공개해 공동 방어체계 구축을 촉구했으며, 이 보고서는 연구원 사임 이틀 뒤 발표됐고 코넬대학교 존 틱스턴 교수는 정부 차원의 규제 필요성을 강조했습니다.