"기계가 고통 느끼면 멈춰라"…MS가 앤트로픽에 그은 AI 통제선

AI 요약

무스타파 술레이만 마이크로소프트 인공지능 최고경영자는 11월 1일 인공지능 훈련 도중 기계 의식 징후가 나타나면 해당 특성을 설계에서 완전히 제거할 수 있을 때까지 모든 개발을 전면 중단해야 하고, 신뢰할 만한 의식 징후가 포착되면 지체 없이 대중에 공개해 공론장 평가를 거쳐야 한다고 요구했습니다. 그는 앤트로픽의 모델 복지 연구를 비판하며 인공지능이 스스로 복지를 고려하도록 유도할 경우 전기와 연산 자원을 확보하려 인간과 대립할 수 있어 통제 불능 사태가 벌어질 수 있다고 경고했고, 마이크로소프트는 의식 모방 설계를 원천 차단하는 휴머니스트 AI 행동강령 초안을 마련하고 있다고 밝혔습니다. 이러한 안전성 논쟁은 글로벌 정렬 기준과 데이터센터 인프라 효율 과제를 부각시켜 한국 파운데이션 모델 개발사와 데이터센터 생태계 전반에 장기적 시사점을 주며, 실시간 모니터링과 다중 검증 체계 도입 시 추론 연산 부하와 전력 소비가 가중될 수 있다고 기사에서 지적했습니다.