LLM 환상은 무엇인가? 원인, 윤리적 우려, 및 예방

AI 요약

대규모 언어 모델(LLM)은 인간과 같은 텍스트를 생성하지만 현실과 연결되지 않은 사실이 아닌 내용을 만들어내는 '환상' 문제가 있어 중요한 시스템 구축에 제약을 줍니다. 환상은 과적합, 인코딩·디코딩 오류, 훈련 데이터의 편향 등으로 발생하며 유명인에 대한 가짜 인용이나 존재하지 않는 출처 인용 등 잘못된 정보를 생성할 수 있습니다. 이러한 환상은 차별적·유독한 내용, 개인정보 유출, 허위정보 확산 등의 윤리적 우려를 낳아 연구자들은 데이터 다양성 개선, 내재 편향 제거, 더 나은 규제 기술, 적대적 훈련, 데이터 증강, 그리고 OpenAI와 Google의 DeepMind가 사용하는 인간 피드백 기반 강화 학습과 같은 방법으로 대응하고 있습니다.