뉴욕도 ‘AI 청문회’…연구원 “AI 통제 못 해 인류 멸종 결말” [지금뉴스]

AI 요약

앤트로픽 전 연구원 제이컵 콕슨은 현지시간 5일 뉴욕시의회 AI 청문회에서 우리는 아직 어떤 AI 시스템도 통제하는 방법을 모른다며 현재 경로대로라면 인류가 AI에 통제권을 잃을 가능성이 더 크고 이는 인류 멸종으로 끝날 수도 있다고 경고했습니다. 그는 실리콘밸리식의 빠른 개발 접근을 비판하며 프런티어 모델 개발에 속도 조절이 필요하고, 청문회에서 논의된 AI 킬 스위치는 단기적 도움은 될 수 있으나 장기적 안전을 보장하기에는 충분하지 않다고 지적했습니다. 구글 딥마인드 출신 알렉스 터너는 화상 증언에서 국내에서 정렬되지 않은 AI를 만들어 우리 자신의 적이 될 가능성이 높고 이는 언젠가 중국보다 강력해질 수 있다고 말했고, 콕슨은 지난달 앤트로픽을 그만두며 앤트로픽과 오픈AI를 비판한 바 있습니다.