"챗GPT 등 15개 AI, 기업 금기 내부 규칙 어기는 허점"

AI 요약

AI보안 전문기업 에임인텔리전스는 BMW 그룹과 공동 개발한 기업용 AI정책 준수 평가 프레임워크 'COMPASS' 연구가 자연어처리 학회 ACL 2026에 공식 채택됐다고 2026년 4월 22일 밝혔습니다. 연구팀이 챗GPT, 클로드, 제미나이, 라마 등 15개 최신 모델을 평가한 결과 의료·금융·자동차 등 전 산업군에서 AI 모델이 기업이 금기시하는 내부 규칙의 97%를 제대로 따르지 않아 허점이 발생한다고 분석했습니다. COMPASS는 4가지 검증단계로 조직별 모호한 조항과 상충 규칙을 찾아 오작동 비율을 줄이며 프레임워크와 데이터셋은 깃허브와 허깅페이스에 무료로 공개됐고 논문은 arXiv에 공개됐습니다.