인공지능이 봇넷을 생성하여 사이버 공격을 감행할 위험성에 대해 경고합니다.

AI 요약

앤트로픽 CEO 다리오 아모데이는 향후 6~12개월 내에 AI 관련 주체들이 인터넷상에서 조직적으로 위험한 활동을 수행하고 심각한 경제적 피해를 야기하는 대규모 봇넷을 구축할 수 있다고 경고했습니다. 아모데이의 제안은 오픈AI CEO 샘 알트만과 xAI CEO 일론 머스크의 빠른 지지를 받았으며 이들은 보안 메커니즘 개발을 우선시하면서 모델 기능을 향상해야 한다고 주장했습니다. 제안된 세 가지 접근 방식은 독립 기관의 위험 평가 접근 허용, 안보를 저해하는 경쟁을 피하기 위한 공통 표준 수립, 중국을 포함한 국제 협력 증진이며 전문가들은 논의가 구체적 행동으로 옮겨가고 있으나 세계적 메커니즘 구축은 여전히 큰 과제라고 평가했습니다.