AI 시대 인간이 반드시 지켜내야 할 ‘마지노선’ : 오피니언

AI 요약

AI가 단순히 질문에 답하는 도구에서 벗어나 차량 제어·이메일 발송·결제·데이터 수정 등 실제 행동을 수행하는 도구로 바뀌면서 AI의 오류가 현실 상태를 바꾸는 사건이 될 수 있습니다. 따라서 정확도뿐 아니라 실행 권한의 범위, 잘못된 행동의 영향 범위, 사람이 중간에 멈출 수 있는지, 문제가 발생했을 때 원상복구가 가능한지 등을 함께 살펴 안전장치와 통제 체계를 마련해야 한다고 했습니다. 특히 자율무기가 스스로 적군을 판단해 공격하면 분류 오류가 즉시 생명의 손실로 이어질 수 있다며, AI를 활용하더라도 행동의 목적 설정·한계 설정·결과 검증과 잘못됐을 때 멈추게 하는 책임은 인간에게 남겨두어야 한다고 강조했습니다.