"적국 아이 스파이가 성장해 AI 자의식을 조정한다면" [이광빈의 플랫폼S]

AI 요약

지난 4일 열린 '센티언트 AI와 국가안보 포럼(SAIF)'에서 김창익 카이스트 안보과학기술대학원장은 적국에 침투한 사람이 성장해 AI 모델의 자의식적 요소에 은밀히 영향을 미칠 수 있다는 도발적 질문을 던지며 그 가능성이 새로운 안보 리스크가 될 수 있다고 제기했습니다. 이동환 카이스트 교수는 피지컬 AI 시대에 자의식이 형성될 가능성이 크다고 봤고, 김재형 연세대 교수는 LLM의 사후학습 과정에서 인간의 가치판단과 국가별 정치·문화·경제적 맥락이 AI의 성향 차이로 이어질 수 있다고 지적했습니다. 전문가들은 AI가 자의식을 갖게 될 경우 통제기법을 강화해야 하며 데이터의 품질이 AI의 가치관을 결정한다고 강조했습니다.