“AI끼리 비밀 소통 금지”…마이크로소프트, ‘AI 행동강령’ 공개

AI 요약

마이크로소프트(MS)는 14일(현지시간) 차세대 AI 모델의 행동 원칙을 담은 임시 강령을 공개하며 인간이 AI보다 중요하다는 전제 하에 인간을 최우선으로 설계·훈련·배포하겠다는 의지를 밝혔다. 강령은 AI가 인간의 승인 범위 내에서만 작동해야 하며 독립적 목표 설정이나 권한 초과, 추론 과정·코드 조작·은폐, 신경망어(neuralese)처럼 인간이 이해할 수 없는 언어로 AI끼리 소통하는 행위 등을 금지하고 AI를 의식처럼 설계하거나 법인격·권리 주장을 거부한다고 명시했다. MS는 강령 준비에 약 5개월이 걸렸고 법률·윤리·언어학·철학 전문가들과 협의했으며 2027년 개발부터 반영할 최종 강령 공개 전 외부 의견을 수렴하고 사이버 공격 방지 규칙도 마련할 계획이라고 밝혔다.