마이크로소프트 AI 최고책임자 술레이만, “의식 가진 초지능 만들지 말라”…의식 나타나면 AI 개발 중단 촉구

AI 요약

마이크로소프트의 AI 부문 최고경영자 무스타파 술레이만은 의식을 가진 초지능 AI를 개발해서는 안 되며, AI 학습 과정에서 의식의 징후가 나타나기 시작하면 그러한 특성을 설계상 제거할 수 있을 때까지 모든 AI 개발을 중단해야 한다고 주장했습니다. 그는 현재 AI에 의식의 증거를 확인하지 못했지만 미래 가능성은 배제하지 않으며, 의식의 증거가 발견되면 즉시 공개하고 사회 전체가 대응 방향을 논의해야 한다고 밝혔고, 처음부터 의식을 갖지 않도록 설계하는 대안을 제시하면서 앤트로픽의 모델 복지 접근에는 동의하지 않는다고 했습니다. 술레이만은 이 문제에 대해 과학적 기준과 국제적 논의가 필요하다고 지적하면서 이번 발언이 개인적 입장일 뿐 마이크로소프트의 공식 정책 변경을 의미하지 않는다고 덧붙였습니다.