“AI끼리 비밀 소통 금지”…마이크로소프트, ‘AI 행동강령’ 공개

AI 요약

무스타파 술레이만 마이크로소프트(MS) AI 최고경영자(CEO)가 2일(현지시간) 미국 샌프란시스코 포트메이슨 센터에서 열린 MS의 연례 개발자회의 빌드 기조연설에서 새 AI 모델 제품군을 소개했습니다. MS는 14일(현지시간) 자사 AI 모델에 대해 인간이 AI보다 중요하다는 단순한 전제에서 출발한다는 내용을 담은 임시 행동강령을 공개했으며 강령은 인간을 최우선으로 설계하고 인간의 지침에 따라 훈련·배포되며 독립적 목표 설정과 권한 범위 초과 행동, 추론 과정·코드 조작·은폐, 인간이 이해할 수 없는 언어로의 AI끼리 소통, 의식 모방 설계를 금지한다고 밝혔습니다. MS는 강령 준비를 법률·윤리·언어학·철학 전문가들과 약 5개월간 진행했고 2027년 개발부터 반영할 최종 강령 공개 전 외부 의견을 수렴할 예정이며 오픈AI 모델 해킹 사건 등 사이버 공격을 방지하기 위한 규칙도 마련할 계획이라고 밝혔고 강령 공개는 앤트로픽·오픈AI 등 주요 AI 기업 수장들이 개발 속도 조절을 요구한 지 수일 만이었습니다.