최재식 “설명 못 하는 AI? 결국 아무도 안 쓴다” [SFF 인터뷰]

AI 요약

최재식 KAIST AI대학원 교수는 설명가능 인공지능(XAI)을 처음부터 설명하기 쉽게 설계하거나 복잡한 모델을 해부해 '왜 이런 결과가 나왔는지' 설명해 주는 기술이라고 설명했습니다. 그는 AI가 실수하거나 환각을 일으킬 수 있어 특히 생명과 재산에 영향을 주는 영역에서는 설명성이 필수이며 설명하지 못하는 AI는 결국 사람들이 쓰지 않을 것이라고 했고, EU AI Act와 한국의 인공지능 기본법·개인정보 보호법 시행령 등도 고위험 AI에 대한 설명을 규정하고 있다고 말했습니다. 또한 한국이 신뢰성·설명성 분야에서 리딩 국가 중 하나지만 챗GPT·제미나이 등 대형언어모델에 의해 B2C 검색 시장이 잠식되고 있어 '소버린 AI' 논의가 부상했으며 공공(B2G) 분야에서는 국내 엔진을 활용해 역량과 통제권을 지켜야 한다고 주장했습니다.