20개국 “AI, 인간 통제 아래 둬야” 선언… 美·中은 불참

AI 요약

21일(현지시간) 제81차 유엔총회 고위급 회기를 계기로 핀란드와 노르웨이 주도로 인간의 지시·감독·통제가 유지돼야 한다는 내용을 담은 프런티어 AI 모델 통제를 위한 촉구 선언이 채택됐으며 핀란드, 노르웨이, 독일, 캐나다, 호주, 스페인, 아일랜드, 네덜란드, 싱가포르, 남아프리카공화국, 케냐 등 약 20개국과 우르줄라 폰데어라이엔 EU 집행위원장이 참여했지만 미국과 중국은 참여하지 않았습니다. 선언문은 첨단 AI 모델의 급속한 발전이 안전과 안보에 심각한 위험을 초래할 수 있다고 경고하며 기업에 모델 배치 전 의무적 시험과 독립적 평가를 포함한 투명한 안전 프로토콜 마련과 위험 평가 자격을 갖춘 외부 평가자의 충분한 접근을 촉구했으나 개발 속도를 늦추거나 중단하자는 요구는 담기지 않았고 장기적으로 유엔 체계 안에서 AI 감독을 위한 새로운 국제기구 설립 가능성 검토를 제안했습니다. 오픈AI는 미국이 전 세계 국가들과 협력해 첨단 AI 기술 표준 마련을 주도해야 한다고 촉구하며 한국을 비롯한 10개국에 설립된 AI 안전 연구소를 바탕으��� 네트워크를 구성하는 방안을 제시하고 정렬 연구와 안전장치가 AI 역량보다 앞서도록 보장해야 한다고 강조했습니다.