오픈AI, 미 정부에 차세대 AI 안전 기준 촉구..."RSI 통제력 잃을 수도"

AI 요약

오픈AI는 21일(현지시간) 유엔 총회 고위급 회의 개막에 맞춰 발표한 블로그에서 미국이 재귀적 자기개선(RSI)을 포함한 차세대 AI의 안전·보안 기술 표준 마련을 위한 국제 공조를 주도할 것을 촉구하며 AI 연구의 자동화 수준과 RSI 발전을 평가할 공통 지표와 안전사고의 분류·추적·보고·대응을 위한 국제 프로토콜 구축을 제안했습니다. 오픈AI는 완전 자율적 RSI는 아직 등장하지 않았지만 안전 확보 전에는 성급히 진행해서는 안 되며 정렬 연구와 안전장치 개발이 우선돼야 한다고 경고했고 샘 알트먼 CEO는 23일 프랑스 주도로 소집되는 유엔 안전보장이사회에서 AI와 국제 안보를 주제로 브리핑할 예정입니다. 미국의 AI 표준·혁신센터(CAISI)가 한국·영국·일본·프랑스·캐나다·싱가포르 등과 협력해 공통 기준을 만드는 방안이 제시됐으나 미국 행정부는 중국과의 기술 경쟁을 이유로 개발 속도 조절에 신중한 태도를 보이고 있으며 트럼프 대통령은 자체 안전장치가 작동하고 있다고 주장해 양국의 입장 차이에 관심이 모이고 있습니다.