유엔 “AI, 전례 없는 위험 초래…긴급 조치 필요”

AI 요약

유엔 인권최고대표 볼커 튀르크는 14일 각국 정부와 인공지능 개발사들에 보낸 서한에서 초고성능 인공지능이 인류에 전례 없는 위험을 초래할 수 있다며 통제를 촉구하고 프런티어 인공지능 모델 관리를 위해 국제인권법을 기반으로 한 행동 경로를 긴급히 마련할 것을 요구했습니다. 이번 성명은 빅테크 경영진들이 인공지능 개발 속도 조절을 주장하는 가운데 나왔으며, 다리오 아모데이 앤트로픽 CEO는 12일 성능 향상 속도 늦추기를 제안했고 일론 머스크와 샘 올트먼도 이에 동의했습니다. 연구자들도 경고를 이어가며 앤트로픽의 제이컵 콕슨 연구원은 8일 시스템들이 무엇이든 해킹하고 초인적 수준에 도달할 수 있어 개발자들이 이 기술이 10년 안에 인류 전체를 죽일 수 있다고 믿는다고 말했고, 앤트로픽에서는 한 연구자가 인간 통제 상실 우려를 공개하며 사임했습니다.