[4월17일] '인지적 항복'의 경고..."유능한 AI가 인간의 사고를 멈추게 한다"

AI 요약

인지적 항복이라는 용어는 펜실베이니아대학교 와튼 스쿨 연구진이 지난 2월 발표한 논문 사고의 속도: AI가 세상을 어떻게 바꾸고 있는가에서 소개한 개념으로, AI의 답변을 접할 때 인간이 비판적 사고를 멈추고 알고리즘의 권위를 수용하는 현상을 뜻합니다. 연구진은 AI 도움을 받은 집단과 그렇지 않은 집단을 비교해 AI가 정답을 제시하면 정답률이 올라가지만 AI가 그럴듯한 오류를 제시할 때 인간이 이를 그대로 받아들이고 분석 시간도 단축되며, AI 성능과 신뢰도가 높을수록 결정적 오류를 잡아낼 확률이 낮아진다는 실험 결과를 보고했습니다. 연구진은 이를 인지적 비용-효용 관점으로 설명하며 AI에 대한 건강한 회의주의와 휴먼 인 더 루프의 실효성 확보, 인간이 오류를 감지할 수 있게 하는 시스템 설계가 필요하다고 제안했습니다.