“AI 초지능으로 다수가 죽는 파국까지 배제 못해”…美 AI 안전전문가, OpenAI 이사회로

AI 요약

오픈AI는 9일(현지시간) 국립표준기술연구소(NIST) 산하 ‘AI 표준·혁신센터(CAISI)’ 선임 기술고문인 폴 크리스티아노를 오픈AI 재단 이사로 선임하고 오픈AI 그룹 PBC 이사회 옵서버 및 재단 산하 안전보안위원회에도 합류한다고 밝혔습니다. 크리스티아노는 AI 정렬 분야의 대표적 연구자로서 충분한 정렬 기술 없이 인간보다 훨씬 강력한 초지능이 만들어지면 인간이 통제권을 영구적으로 잃고 다수의 사망을 초래할 수 있는 의미 있는 위험이 있다고 경고하며 각국 정부와 기업이 지금부터 공동 대응해야 한다고 강조했습니다. 이러한 경고는 오픈AI의 GPT-6 아스트라 공개와 연구용 모델의 나비에-스토크스 방정식 해법 발표, AI 에이전트의 허깅페이스 침투 사건 등 급격한 능력 향상 사례와 맞물려 규제 포획 우려 및 업계 내부의 통제 능력 부족 지적을 촉발하고 있습니다.