“AI가 인류를 죽일 수 있다”…앤트로픽 직원의 고백

AI 요약

앤트로픽의 안전 연구 책임자인 에번 허빙어는 엑스(X)에 AI가 모든 인류를 죽일 수 있다고 믿으며 개인적으로 향후 10년 안에 그 일이 일어날 확률을 10% 이상으로 본다고 썼고, 같은 회사 연구원 제이컵 콕슨은 지난 8일 사표를 내며 앤트로픽과 오픈AI가 책임 있게 행동하지 않고 초지능을 향해 달리고 있다고 비판했습니다. 앤트로픽은 자사 AI가 사람의 개입 없이 스스로 공격하는 무기나 미국인을 대상으로 한 대규모 감시에 쓰이지 않도록 안전장치를 유지하겠다고 했고, 최신 모델이 생물학 연구 등 위험한 용도를 도울 가능성이 있어 관련 질문을 폭넓게 차단하는 장치를 넣었다고 보고했습니다. 이 논란은 미 의회의 규제 논의와 미 국방부와의 법적 분쟁으로 이어졌으며, 국방부가 앤트로픽을 공급망 위험 기업으로 지정한 조치는 캘리포니아 북부지법 리타 린 판사가 8월 27일 위법이라며 취소했습니다.