KAIST, 국내 유일 MS AI 레드팀 선정…AI 안전성 연구 생태계 확대

AI 요약

한국과학기술원(KAIST)이 마이크로소프트(MS)의 글로벌 AI 안전성 연구 프로그램 EXTRA의 연구지원 대상자로 선정돼 국내에서 유일하게 참여하며 MS로부터 2만5000달러(약 3700만원)의 연구비를 지원받습니다. 손수엘 전산학부 교수 연구팀은 지원금을 AI 안전성·보안·AI 정렬 및 책임 있는 AI 개발 연구에 활용하며 생성형 AI와 대규모 언어모델(LLM) 기반 시스템의 모델 탈취, 멤버십 추론, 개인정보 추출, 모델 전도, 탈학습, 프롬프트 주입 등 적대적 공격 기법을 분석하고 방어 기술과 시스템 수준의 방어를 연구합니다. EXTRA는 MS AI 레드팀이 출범시킨 글로벌 연구지원 프로그램으로 전 세계 6개 대륙의 10여 개 대학이 참여해 AI 시스템의 안전성과 보안 취약점을 검증하고 독립적 연구 생태계를 확대하는 것을 목표로 합니다.