[AI는 지금] "10년 내 인류 멸망" 경고한 앤트로픽 연구원 퇴사 vs 오픈AI, 전문가 영입

AI 요약

오픈AI는 지난 9일(현지시간) AI 정렬 연구자 폴 크리스티아노를 오픈AI 재단 이사로 선임하고 재단 이사회 산하 안전·보안위원회(SSC)에 합류시키며 영리법인 오픈AI 그룹 PBC 이사회에는 의결권이 없는 참관인으로 참여하게 했고, 크리스티아노는 CAISI에서 오픈AI 관련 사안과 모든 모델 평가 업무에서 빠지기로 했습니다. 오픈AI는 크리스티아노가 첨단 AI의 재앙적 위험 가능성을 심각하게 다뤄온 점을 선임 이유로 내세웠으며 SSC가 재단과 오픈AI 그룹 PBC를 포함한 회사 전체의 안전·보안 정책을 감독한다고 밝혔습니다. 반면 앤트로픽에선 올해 초 오픈AI에서 이직한 연구원 제이컵 콕슨이 지난 8일(현지시간) 퇴사를 공개하며 스스로 성능을 개선하는 AI 개발 경쟁을 우려하고 개별 기업의 노력만으로는 위험을 통제하기 어렵다고 주장했으며 에번 휴빙거와 새뮤얼 마크스 등도 AI의 멸망 가능성 등 실질적 위험을 제기했고 휴빙거는 향후 10년 내 발생 확률을 개인적으로 10% 이상으로 평가했습니다.