前 앤스로픽 연구원 “AI, 통제 불능 우려… 2030년 전에 인류 모두 죽일 수도”

AI 요약

오픈AI와 앤스로픽에서 연구해온 제이컵 콕슨은 회사를 사직하며 이들 회사가 책임감 있게 행동하지 않고 초지능 개발 경쟁을 벌이며 우리의 목숨을 걸고 도박하고 있다며 AI를 만드는 사람들 사이에 이 기술이 2030년이 되기 전에 우리 모두를 죽일 수 있다고 진지하게 믿는 이들이 있다고 비판하고 내년 말에는 상황이 이미 통제 불능이 될 수 있다고 경고했습니다. 앤스로픽의 정렬 과학 책임자 에번 휴빙어도 향후 10년 안에 모든 인간을 죽일 가능성이 10%가 넘는다고 밝혔고, 현재 모델의 위험은 낮지만 재귀적 자기 개선을 통한 초지능 출현 속도가 예상보다 빠르며 앤스로픽이 정렬 문제 해결 계획을 갖고 있지 않다고 우려했습니다.