AI 만드는 사람들이 먼저 겁먹었다…“멈출 장치 없이 초지능 향해 질주”

AI 요약

세계적 AI 기업 앤트로픽의 연구원 제이컵 콕슨이 퇴사하며 초지능 개발 경쟁을 공개 비판했고, 회사 내부의 AI 안전 책임자들도 인류 전체를 위협할 가능성을 현실적 위험으로 보고 있다고 잇따라 목소리를 냈습니다. 앤트로픽의 정렬 과학 책임자 에번 휴빙거는 개인적 확률 판단으로 향후 10년 안에 그런 일이 벌어질 가능성을 10% 이상으로 평가했으며, 새뮤얼 마크스 등은 고위직일수록 위험을 더 심각하게 본다고 밝혔습니다. 기업들은 경쟁과 국가 간 우위 때문에 개발 속도를 늦추기 어렵고, 이에 따라 연구자들은 국제적 규제와 앤트로픽의 ‘책임 있는 확장 정책’ 같은 외부 장치를 요구하고 있습니다.