AI 석학 22명 “AI 지능폭발 다가와…통제 못하면 인류멸망”

AI 요약

제프리 힌턴, 요슈아 벤지오 등 AI 연구자 22명은 케임브리지대 CASP를 통해 AI가 AI 개발을 자동화하면 ‘지능 폭발’이 발생할 수 있다며 대비를 촉구했습니다. 논문은 앤스로픽의 사례처럼 AI가 작성한 코드 비중이 지난해 초 한 자릿수에서 올해 5월 80% 이상으로 늘고, 올해 2월 미미하던 자율적 R&D 비율이 8월 26%로 상승했다며 복잡한 AI R&D 전체가 2년 안에 자동화될 수 있고, 완전 자동화·제약 부재 시 약 1년 반 만에 발전 속도가 10배로 빨라질 수 있다고 전망했습니다. 연구진은 통제 상실 시 인류의 소외나 멸종 가능성까지 경고하며 각국 정부의 R&D 자동화 지표 보고 의무화, 기업 내 감독 인력 상주시스템, 안전 기준 미충족 시 작업 중단 장치와 비상계획 마련 등을 제안했습니다.