앤트로픽 AI 자기개선 임박했다…“글로벌 AI개발 일시 중단 촉구”

AI 요약

앤트로픽은 4일(현지시각) 자사 블로그에 내부 데이터를 공개하며 전 세계 인공지능 개발 연구소들에 개발 속도를 늦추는 방안을 검토할 것을 촉구했습니다. 회사는 인공지능이 인간의 개입 없이 스스로 개선하는 ‘재귀적 자기 개선’에 도달할 가능성을 경고하며 이는 과학과 의료에 이점을 줄 수 있으나 인간의 통제력 상실 위험도 증가한다고 지적했습니다. 앤트로픽은 다수의 연구소가 동일한 조건 아래 개발을 중단하고 서로의 중단 여부를 검증하는 방식과 정책 입안자·시민사회와 함께 논의하는 조직 구성을 제안하며 1987년의 INF 조약을 사례로 언급했습니다