[만나보니] 신을 만들어 노예로 부린다?…초지능 AI 통제 논쟁

AI 요약

4일 서울 동대문디자인플라자(DDP)에서 열린 SBS D포럼에서 엘리에저 유드코스키 기계지능연구소(MIRI) 공동설립자는 인간을 능가하는 초지능 AI 개발을 즉시 중단해야 한다고 촉구하며 샌드박스식 정렬 연구는 속도가 느리고 불확실해 초지능이 통제를 벗어나 인류를 몰살할 수 있다고 경고했고, 한국은 HBM 등 핵심 반도체 공급망을 활용해 국제협약과 수출통제를 추진해야 한다고 주장했습니다. 필립 코랄루스 옥스퍼드대 교수는 전면 중단은 전 세계 감시를 수반하는 권위주의적 통제로 이어질 수 있다고 반박하며 이용자 자율성 유지를 위한 문답적 평형과 인지적 방화벽, 구독 기반의 고성능 모델 등 구조적 해법을 제안하고 AI 시대에는 먼저 가치와 관점을 명확히 정의해야 한다고 제언했습니다.