[이 시각 세계] "AI, 10년 내 인류 멸망시킬 수도"

AI 요약

앤트로픽에서 인공지능, AI 모델 학습을 연구하던 27살 연구원이 퇴사하면서 인공지능이 빠르면 내년 말 인간의 통제를 벗어나 명령을 거부할 수 있고 10년 안에 인류를 멸망시킬 수도 있다고 경고했습니다. 이 연구원은 업체들이 인간의 개입 없이 스스로 성능을 높이는 AI를 개발하기 위해 경쟁하면서 안전 문제가 뒷전으로 밀릴 수 있고 개별 기업의 노력만으로는 AI의 위험을 통제할 수 없다고 주장했습니다. 앤트로픽 내부 책임자들도 이런 우려에 동의했으며 AI가 인간의 의도에 맞게 작동하도록 연구하는 부서 책임자는 개인적 판단임을 전제로 10년 안에 AI가 인류를 멸망시킬 확률을 10% 넘게 본다고 밝혔습니다.