앤트로픽 "RSI 가속에 AI 안전 대책 뒤처질 수도"…통제 강화 검토

AI 요약

앤트로픽은 IPO를 위한 SEC 제출서류(S-1/A)에서 AI를 활용한 연구개발 가속이 안전성·정렬·보안 조치를 개발·검증하는 속도보다 빠르게 진행될 수 있으며 재귀적 자기개선(RSI)에 대비해 인간의 감독과 통제 체계를 강화할 필요가 있다고 경고했습니다. 회사는 과거에도 개발 속도 가속을 뒤늦게 파악한 적이 있고 내부 추정치에 따르면 '극적인 개발 가속' 기준에 곧 도달할 수 있으나 현재까지 해당 기준을 넘는 모델은 없으며 관련 데이터를 계속 평가하고 안전 정책 개정도 검토하고 있다고 밝혔습니다. 앤트로픽은 이미 클로드를 차세대 모델 개발에 적극 활용해 지난 9월 내부 코드베이스에 기여한 코드의 90% 이상을 클로드가 작성했고, 15명 규모 반도체 설계팀에서도 클로드를 활용해 AI 칩 설계 자동화를 추진하고 있다고 보고했습니다.