AI 속도전에 브레이크…MS도 "인간 통제 벗어나선 안돼"

AI 요약

인공지능 개발 속도를 둘러싼 기류가 바뀌며 앤트로픽과 오픈AI 수장들의 속도 조절 공감대에 이어 마이크로소프트(MS)가 14일(현지시간) 자사 AI 모델 개발·운영에 적용할 잠정 행동강령을 공개했고, 약 5개월간 준비해 외부 의견을 수렴한 뒤 2027년부터 반영할 예정입니다. 행동강령은 'MAI'가 인간이 설정한 목표를 따라야 하며 스스로 별도 목표를 만들지 못하게 하고, 잘못된 행동을 숨기거나 추론·행동 기록을 왜곡·은폐하는 것을 금지하며 AI들끼리 인간이 이해할 수 없는 '뉴럴리즈(neuralese)'로 소통하는 것도 차단한다고 밝혔습니다. 업계는 성능 경쟁에서 초지능 위험 통제를 위한 안전 경쟁으로 무게중심이 이동하고 있으며, 다리오 아모데이·샘 올트먼·일론 머스크가 속도 조절에 공감하고 사티아 나델라도 신중한 개발 속도를 환영했으며 미 의회에서도 AI 안전장치 강화를 요구하고 있습니다.