앤트로픽 연구원 퇴사하며 경고…“AI 재귀적 자기개선, 통제 불능 우려”

AI 요약

앤트로픽 연구원 제이컵 콕슨은 오픈AI와 앤트로픽에서 사전학습 분야를 연구한 뒤 스스로 성능을 높이는 재귀적 자기개선(RSI)에 대한 우려를 공개하며 앤트로픽을 떠났다고 월스트리트저널이 9일 보도했습니다. 콕슨은 두 회사가 책임감 있게 행동하지 않고 초지능 개발을 서두르며 재귀적 자기개선이 AI 능력 향상을 가속화해 새로운 능력과 위험을 확인하고 안전장치를 마련할 시간이 줄어들 수 있다고 지적하며 정부 개입이나 업계 차원의 공동 대응 등 개발 속도 제한 방안을 검토할 필요가 있다고 밝혔습니다. 앤트로픽의 정렬 연구 총괄 에번 휴빙거는 향후 10년 안에 AI가 인류 전체에 치명적 결과를 초래할 가능성을 10% 이상으로 보고하며, 콕슨은 2027년 말에는 상황이 통제하기 어려운 단계에 이를 가능성을 제기했습니다.