"AI 내년말에 통제불능 될지도" 앤트로픽 연구원 사표 경고

AI 요약

앤트로픽에서 인공지능 모델 훈련을 담당하던 영국 출신의 27세 제이콥 콕슨 연구원이 AI가 통제 불능이 될 위험을 경고하며 퇴사했습니다. 콕슨은 내년 말쯤 통제 불능 상황이 올 수 있다고 우려하면서 기업 간 경쟁으로 안전이 타협되고 정부 개입이나 업계 차원의 개발 속도 제한 없이는 책임 있게 범용인공지능(AGI)을 개발할 수 없다고 주장했습니다. 그는 올해 초 오픈AI에서 옮겨와 앤트로픽의 안전 노력에 매력을 느꼈지만 AI 안전 문제를 이유로 앤트로픽을 떠난 첫 연구원이 됐다고 보도되었습니다.