“AI 초지능, 통제 못하면 대부분 죽을 수도”…오픈AI 신임이사의 경고

AI 요약

오픈AI는 9일 미 상무부 산하 AI표준혁신센터(CAISI)에서 모델 안정성 테스트 업무를 담당한 폴 크리스티아노를 오픈AI재단 이사로 임명했다고 밝혔습니다. 크리스티아노는 합류 발표와 함께 게시글에서 강력한 안전장치 없이 초지능을 개발하면 영구적으로 통제력을 잃어 대부분의 사람이 죽을 수 있다고 경고하며 전 세계적 협력을 통해 위험을 허용 가능한 수준으로 낮춰야 한다고 강조했습니다. 그는 업계 전반이 현재 위험을 허용 가능한 수준으로 줄이지 못하고 있다고 지적하면서 오픈AI가 문제에 제대로 대처하면 위험을 크게 줄일 수 있다고 믿어 합류했으며, 지금까지 CAISI에서 주요 기업의 AI 모델에 대한 정부 테스트 설계 실행과 국가 안보 위험성 평가를 담당했다고 전해졌습니다.