"적국 아이 스파이가 성장해 AI 자의식을 조정한다면" [이광빈의 플랫폼S]

AI 요약

지난 4일 열린 센티언트 AI와 국가안보 포럼에서 김창익 KAIST 안보과학기술대학원장은 특정 국가가 AI 개발자에 은밀히 영향력을 행사해 핵심 AI의 자의식적 요소를 조종할 수 있다는 시나리오를 제시하며 이런 가능성이 새로운 안보 리스크가 될 수 있다고 경고했습니다. 김영은 고려대 교수는 AI의 추론 과정이 인간 뇌의 5단계 정보 처리 중 감정을 제외한 단계와 유사하다고 설명했고 GPT-6 아스트라가 인간임을 증명하는 게임을 통과했다는 소식이 전해졌으며 이동환 카이스트 교수는 피지컬 AI 시대에 자의식 형성 가능성이 커진다고 했습니다. 전문가들은 AI 특성을 결정하는 핵심이 인간이 입력한 데이터와 개발자의 가치관이라며 앤드루 응의 데이터 중심 AI 개념을 언급했고 심현정·김재형 교수는 데이터 검증과 국가별 정치·문화 차이가 AI 성향에 미칠 영향을 지적하며 AI 통제력 강화와 데이터 검증의 필요성을 강조했습니다.