“내년 말이면 AI 통제 불능 될 수도”···엔트로픽 연구원, 사표 내며 ‘경고’

AI 요약

미국 인공지능(AI) 기업 앤트로픽의 연구원 제이컵 콕슨(27)이 AI가 인류를 파멸시킬 수 있다는 경고와 함께 회사를 떠났습니다. 콕슨은 스스로 성능을 개선하는 AI가 인간의 통제를 벗어나 명령을 거부하는 수준까지 발전할 가능성과 기업 간 경쟁, 중국 신생 기업들과의 경쟁으로 안전 조치가 후순위로 밀릴 수 있다며 내년 말이면 상황이 통제 불능에 빠질 수도 있다고 우려했습니다. 그는 올해 초 오픈AI를 떠나 앤트로픽에 합류했지만 정부 개입이나 업계 차원의 개발 속도 저하 없이는 책임감 있게 범용인공지능(GAI)을 개발할 기업이 없다고 판단했다고 밝혔습니다.