p(doom)-인공지능이 인류 멸망 시킬 확률

AI 요약

인공지능이 10년 안에 인류를 멸종시킬 가능성이 꽤 높다는 주장이 인공지능 연구자들 사이에서 제기되면서 연구자들이 p(doom)이라는 용어로 재앙 가능성을 표기하며 인공지능에 의한 종말론이 논의의 주류로 부상했습니다. 전문가들은 악의적 행위자의 악용(생물·화학무기 개발, 기반시설·대규모 사이버 공격 등)과 재귀적 자기개선을 통한 통제 불능 초지능의 출현이라는 두 경로를 우려한다고 지적했습니다. 피(둠) 추정치는 로만 얌폴스키의 99.99%부터 일론 머스크의 약 20% 등 크게 엇갈리며 국제 인공지능 안전 보고서는 현재의 AI가 아직 통제를 벗어나 문명 붕괴를 일으킬 수준은 아니라고 밝혔고 연구자들과 기관들은 비상 종료 장치·안전장치 개발과 랜드연구소의 위험 완화 전략 등을 마련하고 있으나 경쟁 압력과 공개된 모델 가중치가 악용 우려를 키우고 있습니다.