시스코, LLM으로 보안 사고 보고서 써봤더니.."시간 줄었지만 환각 위험 여전"

AI 요약

시스코가 거대 언어 모델(LLM)을 활용해 보안 사고 대응 훈련 보고서 초안 작성 실험을 한 결과, 초안 작성 시간을 50% 줄였지만 탈로스 사고 대응팀 네이트 포르스 시니어 인시던트 커맨더는 LLM이 "심각한 부정확, 이상한 결론, 일관성 없는 문체"를 보인다고 밝혔습니다. LLM은 동일 질문에 매번 다른 데이터를 사용하고, 동일 데이터에서 다른 결론을 내며(예: 전사 비밀번호 초기화 또는 대상 한정 초기화 권고), 문서 구조와 형식이 매번 달라지고 핵심 데이터를 누락하는 등 네 가지 방식으로 오류를 일으켰으며, 단일 작업 지시·출처 지정·문체·형식 규칙 지정으로 오류를 크게 줄일 수 있다고 설명했습니다. 다만 한 세션에서 여러 보고서를 편집하면 내용이 섞이는 오류가 발생해 보고서마다 새 세션을 권고했고, 맞춤법·문법 검사용 프롬프트는 존재하지 않는 오류를 만들어내거나 실제 오류를 놓쳐 성공률이 50% 미만이라 실무 사용에 부적합하다고 평가했으며 최종 보고서의 모든 문장에 대해 작성자가 책임을 져야 한다고 강조했습니다