MS, '차세대 AI 행동 강령' 마련…"AI 자체 목표 만들면 안 돼"

AI 요약

마이크로소프트(MS)는 14일 자체 AI 모델에 적용할 임시 행동 강령을 공개했으며 이 발표는 앤트로픽·오픈AI 등 주요 AI 기업 수장들이 최첨단 모델의 성능 향상 속도를 늦춰야 한다고 뜻을 모은 지 수일 만입니다. 강령은 무기 제조 관련 요청, 위험 물질 조달 지원, 건강에 해로운 식습관 조장, 폭력적·성적으로 노골적인 콘텐츠 제작 금지 등과 함께 인간이 설정한 목표 준수 및 자체 목표 금지, 잘못 은폐나 사고 과정·코드·추론·행동 기록 조작 금지, 신경망 언어(neuralese) 등 인간 이해 범위를 넘는 언어로 소통 금지 등을 규정합니다. MS는 법률·윤리·언어학·철학 전문가들과 협의해 강령을 마련했고 무스타파 술레이만 MS AI 책임자는 준비가 약 5개월 전부터 진행됐다고 밝혔으며 회사는 2027년 개발부터 반영할 최종 강령 공개 전 외부 의견을 수렴하고 사이버 공격 방지를 위한 규칙도 마련할 계획이라고 알려졌습니다.