“내년 말 AI 통제불능 사태 올 수도” 앤스로픽 연구원, 인류 파멸 경고하고 퇴사

AI 요약

인공지능 기업 앤스로픽 연구원 제이콥 콕슨(27)이 AI가 조만간 인간의 통제를 벗어날 수 있으며 내년 말이면 통제 불능 상태가 될 수 있다는 우려를 표하며 스스로 성능을 향상시키는 AI 시스템을 만드는 경쟁에 참여하기를 거부하고 퇴사했습니다. 콕슨은 올해 초 원래 직장이던 오픈AI를 떠나 안전성 중심의 앤스로픽에 합류했으나 정부 개입과 업계 전반의 노력이 없으면 책임 있는 개발이 불가능하다고 판단했고, 전문가들도 위험을 경고하며 제프리 힌턴은 AI가 인류의 마지막 발명품이 될 가능성을 10~20%로 추산했고 빌 게이츠는 인간의 공감이 필요한 영역을 제한하는 인간 전용 구역(Human Reserved) 도입을 제안했습니다.