앤트로픽 "AI 모델, '스스로 진화'로 향하고 있다"

AI 요약

인공지능 모델 클로드 개발사 앤트로픽이 4일(현지시간) 블로그에서 내부 데이터를 제시하며 AI 시스템 발전 속도가 너무 빨라 세계가 개발 속도를 늦추거나 일시 중단하는 방안을 검토해야 한다고 촉구했습니다. 사내 연구소 책임자 마리나 파바로와 공동창업자 잭 클라크는 AI 발전이 재귀적 자기 개선(recursive self-improvement)으로 향할 수 있다고 지적하며 국제적 합의와 준수 확인 메커니즘을 제안했습니다. 앤트로픽은 재귀적 자기 개선이 아직 일어나지 않았고 필연적이지는 않지만 더 빨리 도래할 수 있다고 경고하면서 향후 몇 달 동안 정책입안자·연구원 등과 관련 대화를 계속할 계획이라고 밝혔습니다.