[로터리] AI 안전, 대한민국은 준비됐나

AI 요약

인공지능(AI) 기술이 대화형 챗봇부터 휴머노이드 로봇까지 산업 영역으로 확장되며 프런티어 모델과 스스로 계획을 세우는 에이전틱 AI의 등장으로 채용·대출 등 불공정 차별, 가짜 뉴스 생성, 사이버 공격, 화학·생물학 무기 제조법 유출 등 저확률 고충격 위험이 확대되고 전문가들은 이러한 위험이 현실화될 경우 인간 대응 속도를 압도하며 빠르게 확산될 것이라고 예측합니다. 영국은 2023년 AI 안전연구소(AISI)를 출범시킨 뒤 명칭을 ‘AI 보안연구소(AI Security Institute)’로 바꾸고, 미국은 도널드 트럼프 행정부 2기 출범과 함께 조 바이든 정부의 규제 중심 행정명령을 철회하며 안전연구소를 ‘AI 표준·혁신 센터(CAISI)’로 개편했으며, 2024년 11월 출범한 ‘AI 안전연구소 국제 네트워크’는 최근 명칭을 ‘첨단 AI 측정·평가 및 과학을 위한 국제 네트워크(NAAIMES)’로 바꾸며 증거 기반의 평가 과학과 표준화로 방향을 전환하고 있습니다. 대한민국은 2024년 5월 서울에서 제2차 AI 안전성 정상회의를 개최하고 기업·학계 중심의 다국어 모델 자체 평가 지표 구축, 2024�� 11월 인공지능안전연구소 출범, 올해 1월 시행된 AI 기본법 등으로 기여했으나 보안·안전·윤리·정책 분야의 사일로 구조를 극복하기 위해 국가인공지능전략위원회를 컨트롤타워로 삼는 AI 기본법 시행령 개정과 인공지능안전연구소의 독립적 평가 권한 확보를 위한 예산 증액이 필요하다고 제안합니다.