앤트로픽 CEO, "AI 개발 속도 늦춰야"… 통제 불능 'AI 멸종 위기'에 브레이크 걸다

AI 요약

다리오 아모데이 앤트로픽 CEO는 인공지능 개발이 제대로 제어되지 않으면 우리가 이해하고 통제할 수 있는 능력을 넘어설 수 있다며 발전 속도를 늦추기 위한 3단계 계획을 발표했습니다. 제안된 3단계는 제3자 평가자 도입을 통한 안전한 개발, 업계 전반의 조율, 글로벌 차원의 협력이며 앤트로픽은 제3자 평가자들에게 직원 수준의 영구적 시스템 접근 권한을 부여해 안전 조치 준수 여부를 검증하겠다고 밝혔습니다. 이번 선언은 제이콥 콕슨의 폭로와 허깅페이스 해킹 사건 직후 나왔고 샘 올트먼, 일론 머스크, 클레망 들랑그 등 경쟁사 수장들도 제안에 지지를 표명했습니다.