앤트로픽 연구원 사표내며 경고…"10년내 인류 멸망시킬수도"

AI 요약

앤트로픽을 퇴사한 연구원 제이컵 콕슨(27)은 현지시간 8일 X에 스스로 성능을 개선하는 AI가 인간의 통제를 벗어나 명령을 거부하거나 일부 시나리오에서는 내년 말이면 통제 불능에 빠질 수 있고 10년 안에는 인류를 멸망시킬 수도 있다고 경고하며 회사를 떠났습니다. 앤트로픽의 정렬 과학 총괄 에번 휴빙거와 확장감독 총괄 새뮤얼 마크스도 AI가 인류 멸종 또는 유사한 심각한 결과를 초래할 수 있다고 동의했으며, 휴빙거는 개인적으로 10년 이내 확률이 10%를 넘을 것이라고 밝혔습니다. 콕슨은 오픈AI와 앤트로픽이 모두 책임감 있게 행동하지 않고 소수 엔지니어의 판단에 AI 개발이 맡겨져 있다며 정부 개입이나 업계의 공동 대응 등 국제적 규제 체계가 필요하다고 촉구했고, 다리오 아모데이 등 약 1천명이 서명한 성명에도 참여했다고 전했습니다.