권태경 연세대 교수 공동연구팀, AI 취약점 자동 탐지·실시간 차단 플랫폼 ‘GenAISecurity’ 실증

AI 요약

과학기술정보통신부·정보통신기획평가원(IITP)의 지원을 받은 연세대학교 AI보안연구실이 11월 3일 연세대학교 신촌캠퍼스 새천년관에서 ‘AI 모델 취약성 분석, 평가 기술 및 생성정보 비밀성 판단 도구 개발’ 과제의 현황 보고와 실증 행사를 개최했습니다. 권태경 교수 총괄의 공동연구팀은 레드팀 도구 GenAIFuzzer와 블루팀 도구 GenAIGuard를 연계한 통합 보안 플랫폼 GenAISecurity로 레드·블루팀을 자동으로 연결하는 퍼플티밍 체계를 구현해 최신 공개 대형 언어모델 8종에서 검증했고 온프레미스 운용이 가능하도록 개발했습니다. KOLAS 공인시험(9월, KS X ISO/IEC 25023)에서 비밀성·무결성 8개 성능지표 전 항목 목표를 달성했으며 연구과정에서 SCIE·우수학술대회 논문 31편, 특허출원 26건, 기술이전 3건 등의 성과를 냈고 향후 에이전틱 AI 보안 분야로 연구 역량을 집중할 계획입니다.