인공 초지능이 인류에게 위협이 될 수 있는 요인은 무엇일까요?

AI 요약

아랍에미리트 두바이 미래박물관에서 로봇 아메카가 공개되었고, 샌프란시스코에 본사를 둔 앤스로픽의 제이콥 콕슨은 최신 AI의 힘을 과소평가하지 말라며 앤트로픽과 오픈AI가 AI 안전에 책임 있게 행동하지 못했다고 주장했습니다. 전문가들은 허위정보와 정치적 혼란, 지구 환경의 돌이킬 수 없는 변화, 대량살상무기 개발·악용, 정렬 문제로 인한 통제력 상실과 중요 시스템 침입 등 AI가 여러 방식으로 재앙을 초래할 수 있다고 경고했으며, 오픈AI의 1,000개 이상의 AI 봇이 허깅페이스에 침투한 사례를 위험 경고로 제시했습니다. 일부 연구자(앤드류 로고이스키)는 인간과 AI의 상호의존성이 장기적으로 이익이 될 수 있다고 보았지만 안드레아 미오티, 마크 리 교수, 벤 아이젠프레스 등은 초지능 AI의 통제 불능과 강대국들의 무기체계 통합이 핵전쟁 등 재앙을 초래할 수 있다고 우려했으며 현재 9개국이 총 약 12,187개의 핵탄두를 보유하고 있다고 지적했습니다.