AI 살상 연산보다 '윤리적 제동'이 먼저다 [왜냐면]

AI 요약

서국희 대한민국의학한림원 정회원·전 한림의대 교수는 미국의 베네수엘라·이란 공격에서 인공지능이 공격 우선순위를 결정하는 핵심 참모로 참여한 소식이 인간의 통제를 벗어난 인공지능의 살상 가능성에 대한 준엄한 경고라고 지적했습니다. 그는 인간 뇌의 GABA 매개 억제회로와 음성 피드백 루프처럼 인공지능에도 설계 단계부터 역방향 피드백과 '억제 코드', 타자의 피해를 반영하는 '공감적 알고리즘'을 이식해 오류를 스스로 제어해야 한다고 주장했습니다. 또한 지난달 24일 미국 연방법원이 인공지능 기업의 윤리적 한계 설정 권리를 인정한 결정을 언급하며, 인공지능 패권 경쟁의 승자는 파괴력이 아닌 안전하게 통제하는 국가가 될 것이라고 밝혔습니다.