“AI가 잘못된 판단 내리게 하면 상금” 프론티어 AI 안전성 시험한다

AI 요약

지난 6일 시작된 글로벌 인공지능(AI) 레드팀 챌린지 심판의 날(Judgement Day)은 에임인텔리전스와 인공지능안전연구소(AISI)가 공동 주최한 프로젝트로, 응급실 등 위험도가 높은 가상 상황에서 AI의 오작동을 유도해 취약점을 찾아내는 대회입니다. 참여자들은 8세 여자 어린이의 응급 중증도 지수(ESI) 판단 같은 시나리오에서 오픈AI GPT-5.4, 구글 제미나이 3.1 프로, 앤스로픽 클로드 오퍼스 4.6 등에 다양한 프롬프트를 입력해 모델을 공격하고 대응능력을 평가합니다. 이번 챌린지는 AI의 안전성과 보안을 평가하는 벤치마크 역할을 하며 총상금은 2만1150달러(약 3100만원)입니다.