“내년 말 AI 통제불능 될 수도”…앤트로픽 연구원, 경고 후 퇴사

AI 요약

8일(현지 시간) 월스트리트저널(WSJ)은 영국 출신 27세 연구원 제이콥 콕슨이 앤트로픽에서 인공지능 모델 훈련을 담당하던 중 사임했다고 보도했습니다. 콕슨은 AI가 스스로 성능을 개선해 통제 불능 상태에 빠질 위험을 우려하며 극단적 시나리오들이 현실화할 가능성이 높아 내년 말쯤 통제 불능 상황에 이를 수 있다고 경고했고, 중국 신생 기업 등과의 치열한 경쟁 속에서 안전을 타협해서는 안 되며 정부 개입이나 업계 차원의 개발 속도 제한 없이는 범용인공지능(AGI)을 책임감 있게 개발할 수 없다고 주장했으며, 그는 올해 초 오픈AI를 떠나 앤트로픽에 합류했다가 AI 안전 문제를 이유로 앤트로픽을 떠난 첫 연구원으로 알려졌고 1000명 이상의 AI 연구자가 참여한 성명서에도 이름을 올렸습니다.