앤스로픽 "AI 곧 스스로 발전…개발속도 늦춰야"

AI 요약

앤스로픽은 4일(현지시간) 인공지능(AI) 연구소들이 개발 속도를 늦추는 방안을 검토해야 한다고 촉구했으며, AI가 곧 인간의 개입 없이 스스로 개선하는 재귀적 자기개선 단계에 도달할 수 있어 사회적으로 중대한 위험을 초래할 수 있다고 지적했습니다. 회사 측은 AI가 스스로를 구축할 때라는 제목의 블로그 게시물에서 자사 최첨단 모델의 성능 향상을 보여주는 내부 데이터를 공개했고, 재귀적 자기개선은 아직 발생하지 않았지만 대부분의 기관이 대비한 것보다 훨씬 빨리 도래할 수 있다고 경고했습니다. 앤스로픽은 개발 속도 조절을 위한 국제적 합의와 이를 검증할 체계가 필요하다고 제안하며 중거리핵전력(INF) 조약 같은 체계를 예로 들었고, 다리오 아모데이 CEO 등 경영진은 AI 영향에 대해 경고해왔으나 일각에서는 이러한 경고가 마케팅 전략일 수 있다는 지적도 제기됐습니다.