“AI가 10년 내 인류 몰살할 확률 10% 넘는다”…앤스로픽 연구원 경고

AI 요약

앤스로픽의 AI 정렬 연구 책임자 에번 허빙거는 AI가 향후 10년 안에 인류를 모두 죽일 가능성이 10%를 넘는다고 공개 경고했습니다. 이 발언은 연구원 제이컵 콕슨이 앤스로픽과 오픈AI가 책임 있는 방식으로 개발하지 않는다며 퇴사한 직후 나온 것으로, 콕슨은 재귀적 자기개선으로 인간의 통제력을 잃을 위험을 우려했습니다. 허빙거는 앤스로픽이 AI 위험을 줄이려 노력하고 있으나 초지능의 정렬 문제를 해결할 방법은 아직 없다고 밝혔고, 앤스로픽은 지난 6월에도 재귀적 자기개선이 가능해지면 통제력 상실 위험이 커질 수 있다고 경고한 바 있습니다.