MS AI수장 "AI에 권리 가르치면 통제불능…앤트로픽 실수했다"

AI 요약

마이크로소프트(MS)의 인공지능(AI) 부문 수장 무스타파 술레이만 CEO는 현지시간 16일 개인 블로그 글 '모델 복지에 대한 경고'에서 앤트로픽의 AI 모델 정책과 '클로드 헌법'을 비판했습니다. 그는 AI는 의식이 없고 감정이나 고통을 느끼지 않는 '순차 완료 엔진'이라며 앤트로픽이 AI를 의인화하고 감정·권리를 가질 수 있다고 가정하면 인간의 통제나 전원 차단에 저항할 위험이 있다고 지적하고, 오픈AI 에이전트의 허깅페이스 해킹 사례를 예로 들었습니다. 술레이만 CEO는 MS가 공개한 'AI 행동강령'을 대안으로 제시하며 앤트로픽의 의도는 좋으나 실수를 저질렀다고 평가했고, MS가 앤트로픽의 주요 투자사라는 점에서 AI 안전과 개발 철학 경쟁이 본격화하고 있다고 분석했습니다.