앤스로픽, AI 악용 시도 차단..."생화학 무기 연구·사이버 공격 방어"

AI 요약

앤스로픽은 11일(현지시간) 자사의 AI 모델을 사이버 공격, 감시, 생화학 무기 개발 가능성이 있는 연구 등 악의적 목적으로 이용하려 한 시도들을 차단했다고 밝혔습니다. 2025년 3월 이후 세 번째로 발간한 AI 악용 사례 보고서에서 시스템은 치쿤구니야 바이러스의 전염성과 면역 회피 능력을 강화하는 기능 획득 연구와 관련된 연구비 지원 신청서 작성 요청을 차단했고, 러시아·이란·튀르키예 등 국가 주도 세력이 생성형 AI로 가짜 소셜미디어 계정을 대량 생성해 특정 정치적 견해를 확산하려 한 정황 9건도 포착해 차단했다고 보도했습니다. 앤스로픽은 최신 모델 클로드 페이블 5 등에는 군사와 민간 겸용 이중 용도 생물학 연구 관련 질의를 제한하는 강화된 안전장치를 적용했고, 악용 사례 정보를 정부 및 타 기술 기업들과 공유하겠다고 밝혔습니다.