속도조절론 핵심엔 ‘AI가 개발하는 AI’…60년 전 공상, 현실 위험으로

AI 요약

다리오 아모데이 앤트로픽 CEO는 지난 12일(현지시각) 누리집 글에서 인공지능이 다음 세대의 인공지능을 만드는 데 점점 더 큰 역할을 하며 스스로 발전 속도를 높이는 '재귀적 자기개선'(RSI)을 이유로 개발 속도를 늦춰야 한다고 주장했습니다. 현재의 모델은 인간의 지시나 개입 없이 다음 세대 인공지능을 설계·개발할 수준에는 아직 도달하지 않았지만, 오픈에이아이의 수석과학자 야쿠프 파호츠키 등은 현재 발전 속도라면 RSI로 이어질 수 있고 오정렬 문제와 결합되면 수습하기 어려운 피해가 발생할 수 있다고 경고했습니다. 반면 가디언은 게리 마커스 등을 인용해 이런 우려가 현실성이 떨어진다고 지적했고, 닐스 로게 허깅페이스 엔지니어는 속도조절론에 경쟁 우위를 유지하려는 기업 의도가 깔려 있다고 비판했습니다.