내년 말 AI가 인간 명령 거부할 수도…앤트로픽 연구원이 먼저 손 뗐다

AI 요약

제이컵 콕슨 연구원(27)은 올해 초 오픈AI를 떠나 안전성을 중시한다는 이유로 앤트로픽에 이직했으나 AI가 스스로 능력을 높여 인간의 통제를 벗어날 수 있다는 우려로 회사를 그만두고 AI 업계에서 물러나겠다고 밝혔습니다. 그는 기업 간 경쟁과 중국 신생 기업들의 추격 때문에 안전성이 희생될 수 있고, 이런 흐름이 이어지면 내년 말에는 AI가 인간 통제를 벗어날 수 있다고 경고하며 정부 개입과 업계의 공동 속도 조절을 촉구했습니다. 콕슨 연구원과 야쿠프 파호츠키 오픈AI 수석과학자, 다리오 아모데이 CEO 등이 이름을 올린 1000명 넘는 연구자의 공동성명은 각국 정부가 필요할 때 AI 개발 속도를 늦출 체계를 마련해야 한다고 요구했으며, 버니 샌더스 상원의원과 그레그 카사르 하원의원은 초지능 AI 개발·배포를 영구 금지하는 법안 추진 계획을 발표했습니다.