article detail
사티아 나델라, “AI 블랙박스 용납 못 해”…AI 에이전트 행동 독립 검증·통제 표준 추진
2026. 11. 18. 오전 11:53
AI 요약
사티아 나델라 마이크로소프트 회장 겸 최고경영자(CEO)는 17일(현지시간) 샌프란시스코에서 열린 ‘이그나이트 2026’ 기조연설에서 AI 모델의 내부 판단을 확인하기 어려운 ‘블랙박스’ 문제를 비판하며 AI 에이전트의 행동을 독립적으로 검증하고 통제할 수 있는 새로운 기술 표준의 필요성을 강조했습니다. 마이크로소프트는 이를 위해 ‘마이크로소프트 AI 투명성 이니셔티브’를 발표하고 AI 모델과 에이전트의 행동을 조사·검증할 수 있는 기술적·제도적 기반을 마련해 모델의 자체 설명에만 의존하지 않고 실행 과정의 독립적 증거를 확보하겠다고 밝혔습니다. 또한 NIST의 AI 에이전트 표준화 활동과 협력을 확대해 특정 공급업체에 종속되지 않는 투명성·보안·거버넌스 기준을 마련하는 작업에 현재 40개 조직이 참여하고 있다고 설명했습니다.