“내년 말 AI 통제 못 할 수도”…앤스로픽 연구원, 경고 후 퇴사

AI 요약

앤스로픽 연구원 제이컵 콕슨이 스스로 성능을 개선하는 AI 개발 경쟁이 내년 말이면 통제할 수 없는 수준에 이를 수 있다고 경고하며 회사를 떠났습니다. 그는 AI가 인간 명령을 거부할 정도로 빠르게 고도화될 가능성과 기업 간 경쟁이 안전장치를 약화시킨다고 우려하며 정부 개입과 업계 공동의 개발 속도 조절이 필요하다고 주장했습니다. 콕슨과 야쿠프 파초키, 다리오 아모데이 등과 함께 약 1천여 명의 연구자들이 자가개선 AI 개발 속도를 늦출 수 있는 이른바 ‘브레이크’ 체계 마련을 촉구하는 성명에 참여했습니다.