앤트로픽 "모델 개발 속도 늦춰야"…'스스로 진화하는 AI 위험' 경고

AI 요약

앤트로픽은 4일(현지시간) 블로그 게시글에서 AI 시스템이 인간 개입 없는 재귀적 자기 개선 단계에 가까워질 수 있다며 전 세계적으로 AI 개발 속도를 늦추는 논의가 필요하다고 제기했습니다. 재귀적 자기 개선은 아직 일어나지 않았지만 예상보다 빨리 올 수 있고, 이를 대비하기 위해 글로벌 합의와 합의 이행을 검증할 체계가 필요하다고 밝혔습니다. 앤트로픽 경영진은 AI가 불평등을 악화하고 초급 사무직 일자리 절반을 없앨 수 있다고 경고했으며 잭 클라크는 프런티어 AI 개발을 늦추거나 일시적으로 중단할 선택지를 세계가 가져야 한다고 주장했습니다.