“AI가 AI를 개발한다면”…22명 연구자 경고 “수년의 진보, 수개월로 압축될 수도”

AI 요약

영국 케임브리지대 AI 과학·정책 프로그램(CASP)이 28일 공개한 공동 논문에서 제프리 힌턴, 요슈아 벤지오, 야쿠프 파호츠키(오픈AI 수석과학자), 잭 클라크(앤트로픽 공동창업자), 에릭 호비츠(MS 최고과학책임자), 던 송(메타 AI 연구 담당 부사장) 등 세계 주요 AI 연구자 22명은 AI가 스스로 AI 연구개발을 수행하는 수준에 이르면 수개월 안에 기술발전이 압축되는 '지능 폭발'이 발생해 인류가 통제하지 못하는 상황까지 생길 수 있다고 경고했습니다. 논문은 앤트로픽 사례를 들어 지난해 1월 한 자릿수였던 개발자가 승인한 코드 중 AI가 작성한 비율이 올해 5월 80% 이상으로, 인간이 고수준 감독만 하고 AI가 자율 수행한 연구개발 비중은 올해 3월 1%에서 8월 26%로 증가했다고 지적했습니다. 연구진은 각국 정부에 AI 기업이 자동화 수준을 정기 보고하도록 하고 원자력규제위원회(NRC)나 통화감독청(OCC)처럼 상주 감시관을 두며 안전기준 미달 시 개발 속도나 작업량을 제한·중단할 수 있는 통제장치와 노동시장·지정학적 비상계획을 마련할 것을 촉구했습니다.