앤트로픽, "AI 모델, '스스로 진화'로 향해"‥개발 속도 늦춰야

AI 요약

인공지능(AI) 모델 클로드 개발사 앤트로픽이 현지시간 4일 블로그에서 AI 모델 개발 속도를 세계적으로 늦추는 방안을 검토해야 한다고 촉구했습니다. 앤트로픽은 내부 데이터를 통해 자사 모델들의 빠른 발전을 제시하며 연구책임자 마리나 파바로와 공동창업자 잭 클라크는 AI가 인간 개입 없이 스스로 개선되는 재귀적 자기 개선으로 향하고 있다고 지적했습니다. 이들은 사회 제도와 AI 정렬 연구가 기술 발전 속도를 따라잡을 수 있도록 최첨단 AI 개발 속도를 늦추거나 일시 중단할 선택권과 이를 위한 국제적 합의 및 준수 확인 메커니즘을 제안했습니다.