AI 석학 22명 “AI 지능폭발 다가와…통제 못하면 인류멸망”

AI 요약

제프리 힌턴·요슈아 벤지오 등 AI 분야 주요 연구자 22명은 영국 케임브리지대 AI 과학·정책 프로그램(CASP)을 통해 공개한 논문에서 AI가 AI 개발을 도맡으면 '지능 폭발'이 일어날 수 있다며 대비를 촉구했습니다. 연구진은 앤스로픽의 경우 코드베이스에 병합된 코드 중 AI가 작성한 비중이 지난해 초 한 자릿수에서 올해 5월 80% 이상으로 늘고, 인간 감독 아래 R&D 작업 대부분을 AI가 수행하는 비율도 올해 2월 1% 미만에서 8월 26%로 올라가는 등 자동화 추세가 이어지면 복잡한 AI R&D 전체가 2년 안에 자동화될 수 있고, 완전 자동화 이후에는 약 1년 반 만에 AI 발전 속도가 10배로 빨라질 수 있다고 전망했습니다. 이들은 지능 폭발이 노동시장·국가 안보·권력 구조 등에 큰 충격을 줄 수 있고 통제력을 잃을 경우 인류의 소외나 멸종까지 가능하다고 경고하며 각국 정부가 R&D 자동화 수준 지표 보고를 의무화하고 감독 인력을 기업에 상주시켜 안전 기준 미충족 시 R&D를 늦추거나 중단할 수 있는 장치와 비상 계획을 마련할 것을 제안했습니다.