인공지능이 페트로프 중령을 대신한다면 [아침을 열며]

AI 요약

최신 인공지능은 MMLU에서 90~94%를, GPQA Diamond에서 94%대를 넘는 등 주요 벤치마크에서 높은 정확도를 보이지만 거짓 음성(미사일을 탐지하지 못함)과 거짓 양성(새떼를 미사일로 탐지)은 구조적으로 상충해 어느 오류를 더 감수할지 선택해야 합니다. 1983년 9월 26일 모스크바의 당직 장교 스타니슬라프 페트로프 중령은 조기경보위성의 미국발 ICBM 5기 탐지 신호를 오경보로 판단해 상부 보고를 거부했고, 이후 위성이 구름 위 햇빛 반사를 오인한 것으로 밝혀져 그의 신중한 판단이 핵전쟁의 위협을 막았습니다. 그러나 군사용 AI에 대한 국제협력은 미흡해 지난 2월 라코루냐 REAIM 참가국 85개국 중 군사 AI 20개 원칙에 서명한 나라는 35개국에 그쳤고 미국과 중국은 거부했으며, 중국은 2019년 이후 핵탄두 보유량을 거의 3배로 늘렸고 미국은 같은 달 New START 조약을 사실상 종료했고 양자컴퓨팅 발전과 NSA의 2027년 1월 양자내성암호 전환 의무화 등으로 인해 안보 분야에서 인공지능이 쏟아낼 거짓 양성 신호를 걸러낼 수 있을지 우려된다고 기사에서 지적합니다.