AI 에이전트 위험 점수 매기는 AI 거버넌스 기술...민감 데이터 추적·규제 및 감사 대응 강화

AI 요약

기업 환경에서 생성AI 기반 에이전트 도입이 확산되면서 기존 애플리케이션 중심 보안·거버넌스 체계는 다중 에이전트의 민감 데이터 접근과 상호작용을 충분히 통제하지 못하며, 2026년 8월부터 시행되는 EU 인공지능법(EU AI Act)은 AI 시스템의 위험 수준과 데이터 처리 방식에 대한 투명성을 요구해 정량 기반 거버넌스 필요성이 커지고 있습니다. AI 거버넌스 플랫폼 기업 트러스트3 AI(Trust3 AI)는 AI 에이전트 위험도를 정량화하는 트러스트스코어(Trustscore)를 출시했으며, 단일 감사 가능 수치로 규정 준수·보안·법무 조직이 에이전트 활동을 추적·보고·감사하고 자동화된 에이전트 검색으로 멀티 에이전트 환경 전반의 실행 중 에이전트와 접근 가능한 민감 데이터를 식별해 사전 배포 단계부터 규정 준수를 관리하며 위반 시 자동 시정 조치와 문서화를 지원합니다. 실제 포춘 500대 금융기관 사례에서는 사기 탐지·대출 실행·신용 위험 관리 워크플로에 걸쳐 300개 이상의 AI 에이전트가 고객 사회보장번호·주소·거래 내역 등 민감 데이터를 접근 제어와 감사 추적 없이 기록하던 문제가 확인됐으나 자동화된 검색과 신뢰도 점수로 운영 중단 없이 감사 요구 사항을 충족했습니다.