“에이전틱 AI 시대, ‘절대적 신뢰성’이 시장 판도 가른다”

AI 요약

포티투마루 김동환 대표는 26일 서울 서초구 드림플러스 강남에서 열린 2026 AI Safety Compass 컨퍼런스에서 에이전틱 AI 시대에 초거대 AI의 불확실성을 극복하고 신뢰성·안전성·윤리성을 확보하는 것이 중요하다고 발표했습니다. 그는 RAG42, MRC42, LLM42 등 기술로 환각을 최소화하고 금융·자동차·조선해양·건설·제철 등 산업별 맞춤형 시스템을 구축해왔으며, 별도 품질관리 조직 신설, 외부 전문가 검증, 레드팀 챌린지 및 소스코드 버전 관리로 릴리즈를 차단하는 엄격한 거버넌스 체계를 도입했다고 설명했습니다. 김 대표는 신뢰성 체계를 미리 마련하지 않으면 시스템 구축에 최소 6개월에서 1년 이상 걸릴 수 있다며 경영진과 CTO 등 리더들이 평시에도 지속적으로 관심을 기울여야 한다고 강조했습니다.