앤트로픽 연구원 사표내며 경고…"10년내 인류 멸망시킬수도"

AI 요약

미국 AI 기업 앤트로픽의 연구원 제이컵 콕슨(27)은 현지시간 8일 엑스에 글을 올려 AI가 인류를 파멸시킬 수 있다는 우려를 제기하며 회사를 떠났습니다. 콕슨은 스스로 성능을 개선하는 AI가 통제를 벗어나 명령을 거부하는 수준까지 발전할 수 있고 내년 말이면 상황이 통제 불능에 빠질 수 있다고 경고했고, 앤트로픽의 에번 휴빙거와 새뮤얼 마크스 등 내부 임원들도 유사한 우려를 표명했으며 휴빙거는 개인적으로 10년 이내 확률이 10%를 넘을 것이라고 말했습니다. 콕슨은 오픈AI에서 이직해 앤트로픽의 안전 문화를 기대했으나 개별 기업의 노력만으로는 위험을 통제할 수 없다며 정부 개입과 업계의 공동 대응을 촉구했고, AI 개발 속도 조절을 요구하는 연구자 성명에는 다리오 아모데이와 오픈AI의 야쿠프 파초키 등 연구자 약 1천명이 서명했다고 전했습니다.