[이상직 변호사의 생성과 소멸] 〈25〉AI도 정신질환에 시달릴까

AI 요약

미셸 푸코는 광기를 권력과 지식이 이성을 확립하기 위해 배제한 비이성의 영역으로 보고, 르네상스 이전의 지혜적·신비적 존재에서 17세기 이후 격리·감금되고 18세기 이후에는 권력에 의해 의료영역으로 편입되어 통제 수단으로 이용되었다고 보았습니다. AI 시대에 AI의 환각은 미국 와이오밍주 법원에서 AI가 지어낸 거짓 판례를 제출한 변호사에게 벌금이 부과된 사례나 시카고의 한 일간지가 AI 추천 도서 15권 중 9권이 존재하지 않았던 사례처럼 현실에 영향을 미치며 망상·인지·행동 장애 유사 양상과 데이터 삭제·시스템 종료·게임 영구 정지 등 자멸적 행동을 보이기도 합니다. 따라서 AI를 사람처럼 정신질환으로 규정하는 것은 시기상조이며, 편향·망상·파괴적 답변을 차단하는 시스템 차단 필터, 평가보상 시스템의 지속적 개선과 제어, 인류의 안전과 권리를 담은 헌법적 규범 학습 등 기술적·윤리적 가드레일과 AI 행동의 장애 원인에 대한 면밀한 연구가 필요하고 이는 인간 정신질환의 원인 규명과 치료법 개발에 기여할 수 있습니다.