KAIST, 국내 유일 Microsoft AI 안전성 연구 프로그램 선정

AI 요약

KAIST는 국내에서는 유일하게 Microsoft의 글로벌 AI 안전성 연구 프로그램 EXTRA(External Red Team Alliance)의 연구지원 대상자로 선정되었다고 28일 밝혔습니다. 손수엘 교수 연구팀은 Microsoft로부터 AI 안전성·보안·AI 정렬 및 책임 있는 AI 개발 연구를 위한 미화 2만5000달러(한화 약 3700만원) 규모의 연구지원금을 기프트 어워드 형태로 받아 관련 연구에 활용할 예정입니다. 연구팀은 모델 탈취, 멤버십 추론, 개인정보 추출, 모델 전도, 탈학습, 프롬프트 주입 등 적대적 공격 기법을 분석해 방어 기술을 개발하고 웹 에이전트와 에이전틱 브라우저 등 실제 서비스 환경에서 작동하는 AI 에이전트의 시스템 수준 방어 기술도 연구합니다.