“욕설·비방에 불법 리딩방까지 잡는다”…토스증권, AI 검수 도입

AI 요약

토스증권이 4일 투자자 커뮤니티에 인공지능(AI) 기반 게시글 검수 체계를 도입했다고 밝혔다. 새 AI 검수 모델은 제목·본문·이미지와 맥락을 분석해 욕설·비방·혐오·차별 표현과 불법 리딩방 홍보 등을 탐지해 추천 제외나 숨김 등의 조치를 적용하고, 금지어의 우회 표현까지 폭넓게 탐지한다. 작성 단계 필터링은 금지어를 마스킹해 게시를 허용하는 방식으로 고도화됐고, '커뮤니티 서비스 콘텐츠 가이드라인'을 신설해 제재 기준과 이의제기 절차를 명확히 했다.