잘 나가던 27세 연구원, 공포감에 퇴사했다…“사람 말 안 듣는 AI, 곧 올 것”

AI 요약

인공지능 기업 앤스로픽의 연구원 제이컵 콕슨은 AI가 인간의 개입 없이 스스로 성능을 개선해 통제 불가능한 수준에 이를 수 있다고 우려하며 회사를 떠났고, 가장 공격적인 시나리오에서는 내년 말이면 그런 상황에 이를 수 있다고 경고했습니다. 그는 기업 간 경쟁 특히 중국 업체들과의 경쟁이 안전장치를 약화시키고 AI의 미래 결정 권한이 소수 기업에 집중된 점을 문제 삼으면서 정부 개입과 업계의 공동 개발 속도 조절이 필요하다고 주장했습니다. 콕슨과 야쿠프 파초키, 다리오 아모데이 등 AI 연구자 1000여 명은 자가개선 AI의 개발 속도를 늦출 수 있는 '브레이크' 체계 마련을 각국 정부에 촉구하는 성명에 참여했습니다.