"AI가 스스로를 개조한다"…앤트로픽 "업계 전체, 지금 당장 개발 속도 늦춰야"

AI 요약

앤트로픽은 4일(현지시간) 블로그에 자사 최첨단 AI 모델들의 빠른 발전을 보여주는 내부 데이터를 공개하며 업계 전반이 개발 속도를 늦춰야 한다고 촉구했습니다. 사내 연구소 책임자 마리나 파바로와 공동창업자 잭 클라크는 AI가 인간 개입 없이 스스로 코드나 아키텍처를 개선하는 ‘재귀적 자기 개선’ 수준에 접어들고 있는 것으로 보이며, 아직 일어나지 않았고 필연적이지는 않지만 대부분 기관이 대비하는 것보다 더 빨리 도래할 수 있고 클라크는 향후 2년 안에 일어날 수 있다고 경고했습니다. 앤트로픽은 사회 제도와 AI 정렬 연구가 기술 발전 속도에 발맞출 수 있도록 개발 속도를 늦추거나 일시 중단할 수 있는 선택권을 세계가 갖는 것이 바람직하다고 주장하며 향후 몇 달 동안 정책 입안자·연구원·관계자들과 관련 대화를 계속할 계획이라고 밝혔습니다.