앤스로픽 "AI가 스스로 AI 만드는 단계 올 수 있다"⋯개발 속도 조절론 제기

AI 요약

앤스로픽은 4일(현지시간) 블로그에 자사 최첨단 모델들이 빠르게 발전하고 있으며 AI가 인간 개입 없이 더 강력한 후속 모델을 설계·시험·훈련하는 재귀적 자기 개선 단계로 향할 수 있다고 경고하며 국제적으로 개발 속도를 늦추거나 일시 중단할 필요가 있다고 촉구했습니다. 글은 마리나 파바로와 잭 클라크가 공동 작성했으며 내부 자료를 근거로 클로드의 개선이 코딩·디버깅·연구 작업 속도를 높여 자율 에이전트 발전을 촉진하는 피드백 고리가 형성될 수 있다고 설명했습니다. 앤스로픽은 그 단계가 아직 현실화된 것은 아니지만 국제 합의에 따른 속도 조절과 개발을 검증할 메커니즘 마련을 제안하고 향후 정책 입안자·연구자·이해관계자들과 논의를 이어갈 계획이라고 밝혔습니다.