“AI 지능폭발 임박, 통제 못하면 인류 멸망”…연구원들 섬뜩 경고

AI 요약

세계 주요 AI 연구자 22명은 케임브리지대 CASP를 통해 발표한 공동 논문에서 AI 개발의 자동화가 가속화되면 수년 걸릴 기술 진보가 수개월로 압축되는 ‘지능 폭발’이 일어날 수 있고, 극단적 경우 인류의 소외나 멸망으로 이어질 수 있다고 경고했습니다. 연구진은 앤트로픽의 사례를 들어 승인된 코드 중 AI가 작성한 비율이 지난해 1월 한 자릿수에서 올해 5월 80% 이상으로 급증했고, 인간 감독만 있고 AI가 자율 수행한 R&D 비율도 3월 1%에서 지난달 26%로 늘었다며 재귀적 자기개선(RSI) 고리가 완성되면 폭발적 기술 가속이 발생할 수 있다고 전망했습니다. 이에 따라 연구자들은 각국 정부가 AI 기업에 R&D 자동화 지표 보고를 의무화하고 원자력규제위원회(NRC)나 통화감독청(OCC)과 같은 기관의 상주 감시관 배치, 안전 기준 미충족 시 R&D 부하 조절·일시 중지 등 통제 장치 마련을 포함한 정책적 대비책을 촉구했습니다.