나델라 CEO, “슈퍼인텔리전스, 인간 통제 벗어나면 추구할 가치 없다”…AI 주도권 독점 경고

AI 요약

사티아 나델라 마이크로소프트 최고경영자는 14일(현지시간) 자신의 X 계정에서 인류에 도움이 되지 않거나 인간의 통제를 벗어나는 AI는 추구할 가치가 없다고 밝히고, 발전 속도를 늦추자는 의미가 아니라 설계 단계에서부터 안전과 정렬을 고려하며 의도적인 속도 조절과 임베디드 평가자 같은 지속적 평가 메커니즘을 도입해야 한다고 말했습니다. 또한 AI 혜택이 일부 기업이나 국가에 집중돼서는 안 된다며 폐쇄형 모델과 오픈소스 모델이 함께 성장할 수 있는 프런티어 생태계가 필요하고 기업은 자체적인 지속적 학습 루프(hill climbing machine)를 구축해 자사 데이터와 업무 지식을 모델과 가중치에 직접 반영·통제해야 한다고 강조했습니다. 마이크로소프트는 이미 기업이 자체 데이터와 평가 기준으로 모델을 비교·평가하고 품질·비용·지연시간을 최적화할 수 있는 플랫폼을 제공하고 있으며, 나델라는 AI 주도권이 소수 기업에 의해 통제돼서는 안 된다고 강조하면서 MAI 퍼스트파티 모델을 뒷받침할 행동강령을 곧 공개 협의에 부칠 것이라고 밝혔습니다.