오픈AI 이사 된 美 당국자의 섬뜩 경고⋯“AI 통제 잃으면 대부분 죽을수도”

AI 요약

오픈AI는 9일(현지시간) 폴 크리스티아노 CAISI 선임 기술고문을 오픈AI 재단 이사로 선임하고 오픈AI 그룹 PBC 이사회에는 의결권 없는 참관인으로 참여시키며 재단 산하 안전보안위원회에도 합류시켰다고 발표했습니다. 크리스티아노는 CAISI에서 AI 안전을 이끌며 주요 AI 모델의 시험과 국가안보 위험 평가를 수행했고, 오픈AI 관련 사안에서는 직무를 회피하겠다고 밝혔습니다. 그는 AI 통제력 상실 위험이 심각하다며 정렬(alignment) 노력과 미국·국제적 공조를 통해 위험을 낮출 필요가 있다고 경고했고, 통제력을 잃을 경우 대부분의 사람이 죽을 수도 있다고 경고했습니다.