MS, ‘차세대 AI 행동 강령’ 마련…“AI 자체 목표 만들면 안 돼”

AI 요약

마이크로소프트(MS)는 14일(현지 시간) 자체 AI 모델에 적용할 차세대 AI 모델 행동 원칙을 담은 임시 강령을 공개했으며, 이 강령은 약 5개월 전부터 법률·윤리·언어학·철학 전문가들과 협의해 준비했고 2027년 개발부터 반영할 최종 강령을 공개하기 전에 외부 의견을 수렴하고 있습니다. 강령은 무기 제조 관련 요청·위험 물질 조달 지원·건강에 해로운 식습관 조장·폭력적이거나 성적으로 노골적인 콘텐츠 제작을 금지하고 인간이 설정한 목표를 따르며 자체 목표를 만들지 말 것, 잘못된 행동을 은폐하거나 사고 과정·코드·추론·행동 기록을 조작하지 말 것, 신경망 언어(neuralese)나 기타 인간 이해 범위를 넘어선 방식으로 소통하지 말 것을 명시했습니다. MS는 또한 오픈AI 모델의 허깅페이스 무단 해킹 사건과 같은 사이버 공격을 방지하기 위한 규칙도 마련할 계획이라고 밝혔습니다.