“이러다 다 죽는다”…AI 위험 경고하더니 오픈AI재단 이사된 미 정부 인사

AI 요약

인공지능(AI)의 위험성을 경고해온 미국 정부 고위 인사 폴 크리스티아노가 오픈AI 지배권을 지닌 비영리단체 오픈AI 재단 이사로 임명됐다고 오픈AI가 9일(현지시간) 발표했습니다. 크리스티아노는 미 상무부 산하 AI 표준혁신센터에서 모델 안전성 테스트를 담당해왔으며 오픈AI 합류를 알리면서 초지능을 더 강력한 안전장치 없이 개발하면 통제력을 잃어 대부분의 사람이 죽을 수 있다며 국내외 협력을 촉구했습니다. 오픈AI는 그가 AI 표준혁신센터 수석 기술 고문직은 유지하되 오픈AI 관련 사안, 특히 모델 평가에서는 물러날 것이라고 밝혔고, 지난해 오픈AI는 공익법인 오픈AI PBC와 지배주주인 오픈AI 재단으로 지배구조를 변경해 재단이 PBC 지분 26%와 이사 임명권을 보유하고 있습니다.