KAIST, 국내 유일 ‘MS AI 안전성 연구 프로그램’ 선정

AI 요약

한국과학기술원(KAIST)은 손수엘 전산학부 교수가 마이크로소프트 AI 레드팀(Microsoft AI Red Team)이 운영하는 글로벌 AI 안전성 연구 프로그램 엑스트라(EXTRA, External Red Team Alliance)의 연구지원 대상자로 선정됐다고 28일 밝혔습니다. 엑스트라는 올해 새롭게 출범한 글로벌 연구지원 프로그램으로 AI 시스템의 안전성과 보안 취약점을 검증하고 독립적 연구 생태계를 확대하기 위한 것이며, 현재 KAIST를 포함해 전 세계 6개 대륙 10여개가 넘는 대학이 참여 중이고 국내에서는 KAIST가 유일하며 KAIST는 연구지원금 2만5000달러(약 3700만원)를 기프트 어워드(Gifted Award) 형태로 받습니다. 손수엘 교수 연구팀은 생성 AI와 대형언어모델(LLM)을 토대로 하는 AI 시스템 보안과 개인정보 보호 기술을 연구하며 모델 탈취, 멤버십 추론, 개인정보 추출, 모델 전도, 탈학습, 프롬프트 주입 등 적대적 공격 기법을 분석하고 이를 방어하는 기술과 웹 에이전트 및 에이전틱 브라우저 등 실제 서비스 환경에서의 시스템 수준 방어 기술을 연구하고 있습니다.