AI 때문에 10년 안에 인류 멸망?…다름아닌 '챗GPT·클로드 CEO'가 경고했다 [이슈+]

AI 요약

앤트로픽은 10일 'AI 악용 탐지 및 대응' 보고서를 공개해 지난해 12월부터 지난달까지 자사 모델 '클로드'를 악용하려다 적발된 활동을 분석한 결과 사이버 공격·감시·영향공작·사기·생물학적 악용·재래식 무기 개발 등 7개 분야에서 실제 악용 사례가 확인돼 관련 계정을 차단하고 일부 정보를 당국과 업계에 공유했다고 밝혔습니다. 보고서에는 예멘의 한 조직이 클로드를 병렬로 활용해 미사일 유도·항법·제어 소프트웨어를 개발하고 시험발사 실패 원인을 분석한 사례, 말리의 컨설턴트가 클로드로 통화 기록·문자·음성통화를 포함한 라카나360 시스템을 만들어 말리 이동통신 3사 약 2500만개 SIM을 대상으로 데이터 수집을 설계한 사례, 중국어 사용 조직이 자동화된 해킹 공장 방식으로 정부기관·기업을 겨냥한 사이버 공격을 벌인 사례 등이 포함되어 있습니다. 다리오 아모데이 앤트로픽 CEO는 12일 AI 성능 향상 속도를 늦춰 안전 기술이 따라오게 해야 한다고 주장했고 샘 올트먼 오픈AI CEO와 일론 머스크 xAI 창업자도 속도 조절 필요성에 동의했으나 도널드 트럼프 대통령은 13~14일 미국의 AI 우위를 이유로 반대 입장을 보였습니다.