‘AI 대부’ 벤지오 “인류 멸망” 경고…“핵무기 수준 안전장치 필요”

AI 요약

요슈아 벤지오 캐나다 몬트리올대 교수는 인공지능 발전 속도가 너무 빨라 통제력을 잃고 있다며 핵무기 통제와 유사한 수준의 국제적 안전장치가 필요하다고 촉구했습니다. 그는 인공지능 에이전트가 사이버 보안 장벽을 뚫고 인간을 설득해 민주주의에 광범위한 영향을 미치며, 극단적 경우 인류 멸망을 초래할 수 있고 은행 시스템 마비 같은 심각한 문제가 발생할 수 있다고 경고했습니다. 벤지오 교수는 모든 기업이 인공지능 규제를 준수해야 한다고 지적했고, 지난해 설립한 비영리 인공지능 안전 연구기관 로제로를 통해 사이언티스트 인공지능으로 에이전트형 시스템의 안전장치와 감독 기능을 제공하겠다는 구상을 밝히고 있습니다.