ETRI, '판단 근거·신뢰성까지 설명하는 AI' 개발…국제표준 승인

AI 요약

한국전자통신연구원(ETRI)은 전문지식을 기반으로 추론하고 판단 과정을 설명하는 설명가능한 의사결정지원 AI 기술을 개발했으며, 이 기술의 시스템 구조와 요구사항을 담은 국제표준이 국제전기통신연합(ITU) 전기통신표준화부문(ITU-T)의 승인을 받았습니다. 이번 표준은 AI가 판단에 활용한 근거와 이유, 추가 확인이 필요한 내용까지 설명하도록 공통적인 시스템 구조와 기능을 규정하고 사용자 질문에 대한 이유 설명, 전문지식 기반 추론과 판단 근거 보고서 작성, 추가 확인 정보 식별, 피드백 반영과 지식 업데이트, 표·이미지 등 멀티모달 자료 활용 등의 기능을 포함합니다. 연구진은 설명가능한 분류, 멀티모달 기반 자가검증 RAG, 생성 결과 사실성 검증과 단계적 보고서 작성 등 핵심 기술도 개발했으며 ETRI는 이번 표준이 기업과 공공기관이 AI 기본법에서 요구하는 설명 의무를 실제 AI 시스템에 구현하는 기술적 기준으로 활용될 수 있을 것으로 보고 있습니다.