앤트로픽 연구원의 경고 "AI, 10년 안에 인류 멸망시킬 수도"

AI 요약

미국 인공지능 기업 앤트로픽의 연구원 제이컵 콕슨(27)은 8일(현지시간) 엑스에 AI가 10년 안에 인류를 파멸시킬 수 있다고 주장하며 회사를 퇴사했다고 밝혔습니다. 콕슨은 스스로 성능을 개선하는 AI가 인간의 통제를 벗어나 명령을 거부할 수준으로 발전할 수 있고 내년 말이면 상황이 통제 불능에 빠질 수 있다고 경고하며 오픈AI와 앤트로픽을 책임감 없이 행동한다고 비판했습니다. 앤트로픽의 정렬 과학 총괄 에번 휴빙거는 개인적으로 10년 이내에 그 확률이 10%를 넘을 것이라고 생각한다고 밝혔고, 새뮤얼 마크스 확장감독도 개발자들이 인류의 멸종 또는 유사한 심각한 결과를 우려한다고 전했습니다.