'인류 멸망' 다급한 경고…"AI가 10년 안에 모든 인간 죽인다"

AI 요약

에번 휴빙거 앤트로픽 AI 정렬 연구책임자는 지난 8일 X에 10년 안에 인공지능이 모든 인간을 죽일 확률을 10% 이상으로 본다고 적어 논쟁이 커졌습니다. 같은 날 앤트로픽을 떠난 제이컵 콕슨 연구원은 오픈AI와 앤트로픽에서 3년간 AI 모델 사전훈련을 연구한 경험을 밝히며 개발자들이 이번 10년이 끝나기 전에 AI가 우리 모두를 죽일 수 있다고 진지하게 믿는다고 경고했습니다. 그러나 오픈AI와 구글 등은 성능 경쟁에 더 매달리고 있고 리처드 응오는 안전 연구와 성능 연구의 경계가 무너졌다고 지적했으며 RLHF 같은 기술과 '다른 누군가가 할 것'이라는 심리로 개발 속도가 가속화되고 제프리 힌턴은 대기업들이 에이전트를 통제하는 방법을 알지 못한다고 경고했습니다.