네이버, 자체 AI 안전 체계 담은 ‘AI 안전성 프로그레스 리포트’ 첫 발간

AI 요약

네이버가 AI 서비스의 설계부터 개발·운영 전 과정에 걸쳐 위험을 사전에 통제하고 답변의 신뢰도를 관리하는 종합 안전 체계 ASF 2.0을 구체화하고, 그 적용 과정과 사례를 정리한 ‘AI 안전성 프로그레스 리포트(AI Safety Progress Report)’를 처음으로 발간했다고 16일 밝혔습니다. 네이버는 법률·사회·산업적 사례를 분석해 위험을 110개 세부 항목으로 분류한 식별 체계 N-ARTI와 유해성뿐 아니라 이용자 질의에 대한 적절한 면책 문구·전문가 안내 등 사용성까지 평가하는 도구 N-ASET을 구축했으며, 쇼핑 에이전트·날씨 예보 등 실제 서비스에서 AI 활용 사실을 선제적으로 고지하고 6월 선보인 AI탭 등 전 과정에서 안전 점검을 시행했습니다. 네이버는 KAIST·서울대 인공지능 정책 이니셔티브(SAPI)·고려대 인공지능안전연구센터·인공지능안전연구소(AISI) 등과 연구 협력을 이어가며 ASF 2.0을 지속 고도화해 적용하겠다고 원성재 네이버 AI Safety 센터장이 말했습니다.