앤스로픽 “AI, 인간 통제 벗어나 스스로 발전 가능...개발 중단해야"

AI 요약

앤스로픽은 AI가 스스로 AI 시스템 개발을 가속화하는 재귀적 자기 개선 단계가 다가오고 있다며 최첨단 AI 개발을 늦추거나 일시 중단하는 방안을 고려해야 한다고 공식 블로그에서 경고했습니다. 이 회사는 AI 발전 속도가 기존 7개월마다 두 배에서 약 4개월마다 두 배로 빨라졌고, 2024년 3월 클로드는 사람이 4분 걸리는 일을 대신하던 수준에서 12시간짜리 일을 수행하며 내년엔 몇 주짜리 일을 하게 될 것이라고 분석했으며, 지난 11월 기준 오퍼스 4.5가 인간 선택을 능가할 확률이 51%였고 올해 4월 미소스 프리뷰는 64%로 상승했다고 밝혔습니다. 앤스로픽은 핵확산금지조약(NPT)이나 화학무기금지협약(CWC)과 유사한 국제적 감속·상호감시 체계를 제안했으나 위반 유혹과 주체 모호성, 논의 시간 부족 등의 문제를 지적했고, 일부에서는 이번 주장을 마케팅 목적이라고 보기도 하며 회사는 대규모 자금 조달로 기업 가치 약 1조 달러로 평가돼 IPO 서류를 제출한 상태입니다.