[기고] 한국딥러닝 "에이전틱 AI, 오답보다 위험한 ‘잘못된 실행’"

AI 요약

정부는 2026년 7월23일 ‘에이전틱 AI 이니셔티브’를 발표했고, 에이전틱 AI가 외부 시스템과 연동해 실제 업무를 실행하면서 권한 오남용·민감정보 유출·목표 이탈 등 위험과 잘못된 판단이 승인·지급·발주·생산중단으로 이어질 수 있는 문제가 제기됐습니다. 기업용 에이전트는 계획·오케스트레이터·검색·정책·실행 계층이 결합된 실행 파이프라인이며, 근거(원문 문서·페이지·위치·모델·규칙) 연결, 모델 판단과 실행 규칙의 분리, 최소 권한 설계, 예외에서의 중단과 사람 이관, 실행 추적·복구·감사 기록 등의 통제 계층이 필요하다고 밝혔습니다. 한국딥러닝은 정상적인 문서 업무는 AI가 처리하되 근거가 부족하거나 값이 충돌하는 예외만 사람에게 전달하는 방식으로 ‘일하는 AI’를 구현하고 있으며, 에이전틱 AI의 경쟁력은 잘못된 실행과 불필요한 사람 개입을 얼마나 줄이는가에 달려있다고 설명했습니다.